İstihbarat raporu, bu bahar İran ile savaşın ortasında ABD ordusu içinde yayılırken alarm zillerini çaldı: Orta Doğu’da bir Çin gemisi, nükleer silah programına ait bileşenler taşıyordu. ABD ordusu, bu gemiyi durdurma planları yaparak harekete geçti. İki kaynak, silahlı ABD askerlerinin gemiye çıkmaya hazırlandığını belirtirken, başka bir kaynak ise askeri uçakların havada olduğunu aktardı. Ancak planlanan operasyonun hemen öncesinde, yetkililer özel operasyon komutanlığı analistinin hazırladığı raporu daha derinlemesine incelediklerinde, bu raporun yapay zeka yardımıyla oluşturulduğunu ve analistin kullandığı bir sohbet botunun geminin taşıdığı malzemeyi yanlış tanımladığını keşfettiler.
YANLIŞ BİLGİLERİN SONUCU
Bir kaynağa göre, rapor “tamamen yanlıştı.” Ancak, bu durum “neredeyse bir savaşı başlattı” şeklinde ifade edildi. ABD’nin bir Çin gemisine karşı gerçekleştireceği herhangi bir operasyon, iki ülke arasında silahlı bir çatışmaya dönüşme riski taşıyordu. ABD ordusu ve istihbarat toplumu içinde, yetkililer yapay zekayı, toplanan büyük hacimdeki ham istihbaratı analiz etmekten hedef seçimlerine kadar birçok alanda entegre etmeye çalışıyor. Ancak bu olay, savaşın ortasında bu güçlü ve henüz tam olarak anlaşılamayan teknolojinin hedefleme için kullanılmasının ciddi risklerini gözler önüne serdi.
YAPAY ZEKANIN RİSKLERİ
Analistler, yapay zekanın, devletlerin kötü veya bozulmuş verilere dayanarak felaket niteliğinde yanlış hesaplamalar yapmasına neden olabileceğinden uzun süredir endişe duyuyor. Bu tür bir yanlış hesaplama, ABD’nin yanlış bilgilere dayanarak bir Çin gemisine ateş açmasına yol açabilir. Bu özel durumda, analist, Hawaii merkezli ABD Özel Operasyon Komutanlığı’ndan gelen geminin manifestosuna ilişkin bazı istihbarat raporları hakkında bir sohbet botuna soru sordu. Botun ticari bir ürün mü yoksa bir ABD hükümeti ürünü mü olduğu netlik kazanmadı.
HIZLI YAPAY ZEKÂ KABULÜ
Yapay zekanın hızlı bir şekilde benimsenmesi, ordunun savaş alanında daha hızlı kararlar almasına yardımcı olabileceği gerekçesiyle savunuluyor. Yetkililer, ABD’nin, bir gün Çin veya başka bir düşmanla savaşması durumunda, yapay zeka entegrasyonunda geri kalmaması gerektiğini ifade ediyor. Ocak ayında Savunma Bakanı Pete Hegseth, ordunun yapay zeka kullanımını hızlandırmak amacıyla “Yapay Zeka Hızlandırma Stratejisi”ni açıkladı. Strateji, ordunun çeşitli programlar aracılığıyla yapay zekayı yaygın olarak kullanmasını teşvik ediyor.
DAĞITIK YAPAY ZEKÂ SİSTEMLERİ
Ancak bu çaba merkezi değil; farklı hükümet birimleri, farklı emirler ve güvenlik standartları altında farklı araçlar kullanıyor. ABD’nin bu araçlar tarafından üretilen bilgileri nasıl doğruladığına dair belirli bir standart yok. Farklı köşelerde konuşlandırılan yapay zeka sistemleri, güvenilirlik ve işlevsellik açısından büyük farklılıklar gösteriyor. Washington’daki politika yapıcılar, Silikon Vadisi mühendislerinden gelen yapay zekanın insan kısıtlamalarından kurtulabileceği uyarıları üzerine yoğun tartışmalar yürütüyor. Ancak bu olay, yapay zeka veya diğer otomatik sistemler tarafından üretilen yanlış veya yanıltıcı bilgiye dayalı olarak insanların felaket kararları verme riskini vurguluyor.
HEDEFLEMEDE YAPAY ZEKÂ KULLANIMI
Askeri kaynaklar, hedefleme konusunda yapay zekaya hızlı bir geçiş yapıldığını ve bunun ciddi hata riskleri taşıdığını belirtiyor. Bir başka kaynak, “Hedeflemede yapay zeka kesinlikle artıyor ve insanın devrede olması durumunun sivil kayıpları veya dost ateşini önleyeceğine dair gerçek bir rehberlik yok” dedi. Bazı daha yaşlı istihbarat yetkilileri, yapay zekanın analistleri daha hızlı istihbarat üretmeye zorladığını ve bu durumun hatalara kapı açtığını belirtiyor. Genç analistler, bu araçlara daha aşina oldukları için onlara eleştirisiz güvenme eğilimindeler.