Bir süredir etik tartışmalar nedeniyle kriz yaşayan yapay zeka şirketi Anthropic, ABD Savunma Bakanlığı’nın (Pentagon) otonom drone sürüleri geliştirmek amacıyla düzenlediği 100 milyon dolarlık ödüllü yarışmaya teklif sundu. Konuya yakın kaynakların aktardığına göre, başvuru süreci, şirket ile Pentagon arasında askeri kullanıma yönelik kapsamlı görüşmelerin devam ettiği dönemde gerçekleşti. İsimleri açıklanmayan kaynaklar, Anthropic’in teklifi sonrası, ABD Savunma Bakanı Pete Hegseth’in cuma günü Pentagon’un yüklenicilerine ve ortaklarına Anthropic ile ticari iş birliğini yasaklama talimatı verdiğini belirtti.
KATİL ROBOT TARTIŞMASI
Taraflar arasındaki uyuşmazlık, insan müdahalesi olmadan hedef belirleyip saldırı yapabilen otonom silah sistemleri üzerindeki yapay zeka rolü etrafında şekillendi. Anthropic yöneticileri, önceki açıklamalarında yapay zekanın savaş alanında yasal ve geniş kapsamlı kullanımına destek verdiklerini, ancak kitlesel gözetim ve tamamen otonom silah sistemlerini “kırmızı çizgi” olarak nitelendirdiklerini ifade etmişti. Kaynaklar, şirketin geliştirilmesi planlanan teknolojinin bu sınırları aşmadığını düşündüğünü belirtti.
CLAUDE EMİRLERİ YÖNETECEKTİ
Kaynaklar, Anthropic’in teklifinin, Claude adlı yapay zeka aracının komutanların niyetlerini dijital komutlara dönüştürmesine ve çok sayıda drone’un koordinasyonu üzerinde odaklandığını dile getirdi. Yani, yapay zekanın hedef seçimi veya silah kullanma kararlarını otonom bir şekilde vermeyeceği ifade edildi. Şirket ayrıca, sistemin insan operatörler tarafından denetleneceğini ve güvenli gelişim için Pentagon ile ortak bir araştırma programı oluşturmayı önerdi.
BEŞ AŞAMALI PLAN
Bloomberg’in önceden aktardığı bilgiye göre, yarışma yazılım geliştirmeyle başlayıp gerçek saha testlerine kadar uzanan beş aşamalı bir araştırma-geliştirme programı şeklinde tasarlandı. Pentagon’un ocak ayındaki açıklamasında, drone’ların saldırı amaçlı kullanılacağı belirtilirken, insan-makine etkileşiminin sistemlerin “öldürücülük ve etkinliği” üzerinde doğrudan etkisine vurgu yapıldı. İlk aşama sadece yazılım geliştirmeye odaklanacak; amaç, hava ve deniz gibi çeşitli alanlarda faaliyet gösterecek drone’ların koordineli hareketini sağlamak.
ANTHROPIC SEÇİLMEDİ
Kaynaklara göre, Anthropic yarışmada seçilen şirketler arasında yer almadı ve bu durumun nedeni henüz bilinmiyor. Şirket, otonom silah sistemlerini çalıştıracak kadar güvenilir bir yapay zeka seviyesine ulaşılmadığını savunuyor; bu konuyla ilgili herhangi bir yorumda bulunmadı. Yarışma, Pentagon’a bağlı Özel Operasyonlar Komutanlığı ile Savunma İnovasyon Birimi tarafından ortaklaşa yürütülüyor.
SPACEX VE OPENAI ÖNE ÇIKTI
Kazanan teklifler arasında SpaceX ile xAI ortaklığının sunduğu teklif de bulunuyor. Pentagon’un Anthropic’i sürecin dışına itme kararından birkaç saat sonra, OpenAI, bakanlıkla anlaşma yaptığını duyurarak dikkati üzerine çekti. Sosyal medyada ChatGPT’ye yönelik bir boykot hareketi başlarken, OpenAI CEO’su Sam Altman, anlaşmanın otonom silah sistemleri dahil olmak üzere güç kullanımında “insan sorumluluğunu” şart koştuğunu ifade etti.
DRONE SÜRÜSÜ TEKNOLOJİSİ
Uzmanlara göre, aynı anda birden fazla drone uçurmak mümkün olmakla birlikte, hava ve denizde birçok drone’un hedef doğrultusunda otonom bir şekilde uyumlu hareket etmesini sağlayacak yazılım geliştirme süreci, önemli bir teknik engel olarak görünmeye devam ediyor. Yarışmanın ilerlemesi, katılımcıların başarısı ve projeye duyulan ilgi doğrultusunda aşamalı olarak sürecek.