Üst düzey Demokrat senatörler, yapay zekanın neden olduğu ABD askeri hedefleme planlarındaki hataların araştırılması için hükümet denetçilerine çağrıda bulundu. Bir kaynak, bu hatalardan birinin “neredeyse bir savaşı başlattığını” bildirdi. Savunma Bakanı Pete Hegseth ve Ulusal İstihbarat Direktörü Jay Clayton’a cumartesi günü gönderilen mektupta, senatörler Orta Doğu’daki bir Çin gemisiyle yaşanan tehlikeli bir durumu örnek göstererek, “Sizin gözetiminizdeki ajansların, etkili yönetişimi göz ardı ederek yapay zeka yeteneklerinin benimsenmesi ve ‘deneysel çalışmalar’ konusunda nasıl bir önceliklendirme yaptığını” belirtti.
HATALARIN NEDENLERİ
Bir özel operasyon komutanlığı analisti, bir istihbarat raporu oluşturmak için yapay zekaya başvurdu ve bu rapor, bir Çin kargo gemisindeki malzemeyi yanlış bir şekilde tanımladı. Rapor, ABD ordusunun geminin nükleer silah programı bileşenlerini taşıdığına inanmasına yol açtı. Yetkililer, operasyon planlandığı sırada, raporun yapay zeka yardımıyla oluşturulduğunu ve tamamen yanlış olduğunu fark etti.
HALÜSİNASYON OLASILIKLARI
Yapay zeka kullanımının yaygınlaşmaya başlamasından bu yana, istihbarat topluluğunda bu tür “halüsinasyonların” yalnızca bir kez yaşanmadığı ifade edildi. Senatörler Mark Warner, Jack Reed ve Chris Coons, “Bu algılanan hataların, istihbarat ve savaş yürütme görevlerimize olan kamu güveni üzerindeki etkileri göz önüne alındığında, ilgili Müfettiş Genel’ler tarafından derhal bir soruşturma başlatılmasını” talep etti.
ÖNEMLİ OLAYLAR
Mektupta ayrıca, Şubat ayında İran’ın Minab kentinde bir okula düzenlenen ve yaklaşık 200 çocuğun ve yetişkinin hayatını kaybetmesine neden olan bir ABD hava saldırısı da yer aldı. Üç kaynak, bu saldırının, üst düzey ABD askeri komutanların, potansiyel hedeflerle ilgili istihbaratın ciddi şekilde güncel olmadığını belirten bir yapay zeka destekli veritabanındaki uyarıları göz ardı etmesinin ardından gerçekleştiğini bildirdi.
SORUŞTURMA TALEBİ
Senatörler, Hegseth ve Clayton’dan “bu konuyu hızla araştırmalarını” ve ilgili müfettiş genelere, medya raporlarının önemli hataları işaret ettiği yıl içindeki durumlara sınırsız erişim sağlamalarını talep etti. Mektup, hükümetin yapay zeka güvenlik önlemlerini uygulamadaki rolü üzerine tartışmaların Kongre koridorlarını sardığı bir dönemde gönderildi.
PENTAGON’DAKİ ENGELLER
Pentagon’da, Hegseth’in askeri operasyonlara yapay zekayı entegre etme çabaları engellerle karşılaşıyor. Savunma Bakanlığı, Anthropic ile, şirketin askeri güçlerin otomatik silahlar ve kitlesel gözetim için Claude AI modelini kullanmasını engelleyen iç güvenlik önlemlerini kaldırmayı reddetmesi nedeniyle tartışmalara girdi. Anthropic, modellerinin bu tür amaçlarla kullanılmak için yeterince güvenilir olmadığını savundu.