Anthropic, yapay zeka modellerini biyolojik silahların geliştirilmesine destek olabilecek yollarla kullanan birçok hesabı engellediğini açıkladı. Şirket, Claude modeliyle tanınırken, biyolojik kötüye kullanımın yapay zeka modelleri için en ciddi risklerden biri olduğunu belirtti. Perşembe günü yayımlanan raporda, kullanıcıların belirli bölgelerden erişimi engelleyen kontrolleri aşarak, araştırmalarının amacını gizlemeye yönelik çabalar içinde oldukları beş gerçek vaka örneği sunuldu.
ARAŞTIRMA ÖRNEKLERİ
Rapor, kullanıcıların “kontrolleri aşarak” gerçekleştirdiği araştırmaları detaylandırıyor. Örnekler arasında, kuş gribinin bulaşıcılığı ve bağışıklık kaçırma özellikleri üzerine yapılan araştırmalar yer alıyor. Ayrıca, ortopoks virüsleri ve yenilikçi toksinler üzerindeki çalışmalara da dikkat çekiliyor. 30 günlük bir aktivite incelemesi sonucunda, 35’in üzerinde potansiyel olarak endişe verici araştırma çabası tespit edildi. Ancak, bu bireylerin zarar vermek niyetinde olup olmadıklarını veya meşru bilimsel amaçlar için mi çalıştıklarını kesin olarak belirlemediklerini vurguladılar.
GÜVENLİK RİSKLERİ
Raporda, yapay zeka modellerinin siber güvenlik becerileri sayesinde, devlet destekli operasyonlarla bireysel operatörler arasındaki farkların azaldığı ifade ediliyor. Bunun yanı sıra, Claude modelinin kullanıldığı diğer kötüye kullanım örnekleri de yer alıyor. Çeşitli ülkelerde, bu modellerin gözetim işlemleri, dolandırıcılık ve konvansiyonel silahların geliştirilmesi için kullanıldığı bildirildi. Özellikle, Çin, Rusya ve Yemen’deki kötü aktörlerle bağlantılı olarak yapılan bu tür faaliyetler dikkat çekiyor.
ÇİN BAĞLANTILI FAALİYETLER
Rapor, Çin hükümetine bağlı olduğu düşünülen operatörlerin, Claude kullanarak Sincan’daki Uygur azınlıklarını ve Asya’daki dini toplulukları hedef aldığını belirtiyor. Ayrıca, Yemen’deki bazı grupların da, muhtemelen İran destekli Husi isyancıları, füzeler için yazılım geliştirmek amacıyla bu modeli kullandığı ifade ediliyor.
YAPAY ZEKANIN GELECEĞİ
Yapay zeka çalışanlarının güvenlik endişeleri nedeniyle istifa etmeleri, teknolojinin hızla geliştiği ve kontrol edilemeyecek bir seviyeye ulaşabileceği yönündeki uyarıları artırdı. Bazı eski çalışanlar, yapay zekanın potansiyel olarak yıkıcı sonuçlar doğurabileceğini belirtiyor. Ayrıca, 1,400’den fazla yapay zeka şirketi çalışanının, ABD hükümetine teknolojiyi düzenleme çağrısı yapan bir açık mektup imzaladığı bildirildi.
ŞİRKETİN GÖRÜŞLERİ
Anthropic, güçlü modellerin nasıl güvenli bir şekilde piyasaya sürüleceğine dair yasal ve doğrulanabilir bir yol benimsenmesi gerektiğini savunuyor. Şirket, mevcut güvenlik önlemlerinin işe yaradığını, ancak daha sağlam sistemlerin gerekli olduğunu da vurguladı.