Bir süredir ABD hükümetiyle etik sorunlar nedeniyle kriz yaşayan yapay zeka firması Anthropic’in, ABD Savunma Bakanlığı’nın (Pentagon) sesle kontrol edilen otonom drone sürüleri ile ilgili 100 milyon dolarlık ödüllü yarışmasına başvurduğu belirlendi. Konuyla ilgili bilgi sahibi kaynaklara göre, başvuru süreci, şirket ile Pentagon arasında askeri teknoloji kullanımı üzerine zorlu müzakerelerin devam ettiği bir dönemde gerçekleşti. İsimlerini açıklamayan bu kaynaklar, Anthropic’in teklifinin ardından, ABD Savunma Bakanı Pete Hegseth’in Cuma günü Pentagon yüklenicilerine ve ortaklarına Anthropic ile ticaret yapmamaları talimatını verdiğini aktardı.
KATİL ROBOT TARTIŞMALARI
Taraflar arasındaki gerilimin merkezinde, insan müdahalesi olmaksızın hedef belirleyip ateş edebilen otonom silah sistemleri bulunuyor. Anthropic’in yöneticileri daha önce yaptıkları açıklamalarda, yapay zekanın savaş alanında yasal kullanımını desteklediklerini, ancak kitlesel gözetim ve tamamen otonom silah sistemleri konusunu kırmızı çizgi olarak gördüklerini belirtmişti. Şirketin, geliştirilecek teknolojinin bu sınırları aşmayacağına inandığı kaydedildi. Olası bir ölümcül drone sürüsü oluşması durumunda sistemin insan operatörlerin kontrolü altında olacağı ve gerektiği takdirde durdurulabileceği ifade ediliyor.
CLAUDE’UN YETKİLERİ
Anthropic’in teklifinin, Claude isimli yapay zeka aracının askeri komutanların niyetini dijital komutlara dönüştürmesini ve çok sayıda drone’un koordinasyonunu sağlamasını amaçladığı belirtiliyor. Bu durumda yapay zeka, hedef seçimi ya da silah kullanımı gibi kararları kendi başına vermeyecek. Şirket ayrıca, insanların sistem üzerinde gözetim yetkisine sahip olmasını ve Pentagon ile birlikte otonom silahların güvenli bir şekilde geliştirilmesi ve test edilmesi için ortak bir araştırma programı kurulmasını önerdi.
BEŞ AŞAMALI GELİŞİM PROGRAMI
Yarışmanın yazılım geliştirme ile başlayıp, gerçek saha testlerine kadar gidecek beş aşamalı bir araştırma-geliştirme programı çerçevesinde tasarlandığı daha önce aktarıldı. Pentagon’un ocak ayında duyurusunda, drone’ların saldırı amaçlı kullanılacağına ve insan-makine etkileşiminin sistemlerin etkinliği üzerinde önemli bir rol oynayacağına vurgu yapıldı. İlk aşama, sadece yazılım geliştirmeye odaklanacak. Amaç, hava ve deniz gibi farklı alanlarda faaliyet gösterecek drone’ların sürü halinde koordineli bir şekilde hareket etmesini mümkün kılacak sistemler geliştirmek. İlerleyen aşamalarda ise hedef farkındalığı paylaşımı ve nihayetinde görev sürecinin sona erdirilmesine kadar tüm aşamaların ele alınması planlanıyor.
ANTHROPIC YARIŞMADA YER ALAMADI
Kaynaklara göre, Anthropic’in yarışmada seçilen firmalar arasında yer almadığı bildiriliyor; ancak bu durumun nedeninin henüz bilinmediği aktarılıyor. Şirket, otonom silah sistemlerini işletecek kadar güvenilir bir yapay zeka seviyesine ulaşılmadığını savunuyor ve konuyla ilgili yorum yapmadı. Yarışma, Pentagon’a bağlı özel operasyonlar komutanlığı ile savunma inovasyon birimi tarafından ortak yürütülüyor.
SPACE X VE OPENAI ÖNE ÇIKTI
Kazanan başvurular arasında SpaceX ve xAI ortaklığının sunduğu teklifler olduğu kaydedildi. Pentagon’un Anthropic’i devre dışı bırakma kararından birkaç saat sonra OpenAI, bakanlıkla bir anlaşma yaptığını açıkladı ve bu durum sosyal medyada tepki çekti. OpenAI CEO’su Sam Altman, anlaşmanın otonom silah sistemleri dahil olmak üzere güç kullanımında “insan sorumluluğu” şartı taşıdığını belirtti.
DRONE SÜRÜSÜ TEKNOLOJİSİ
Uzmanlar, aynı anda birden fazla drone uçurmanın mümkün olduğunu, ancak çok sayıda drone’un otonom olarak birlikte hareket etmesini sağlayacak yazılımın geliştirilmesinin önemli bir teknik zorluk olduğunu ifade ediyor. Yarışmanın ilerleyişi, katılımcıların başarıları ve projeye olan ilginin durumuna bağlı olarak aşamalı bir şekilde sürdürülecek.