Yapay zeka şirketi Anthropic, teknolojinin kötüye kullanımını tespit etmek ve önlemek amacıyla bir rapor yayımladı. Raporda, yapay zeka modellerinin en önemli risklerinden birinin “biyolojik kötüye kullanım” olduğu vurgulanıyor. Yapay zekanın mevcut patojenleri daha tehlikeli hale getirebileceği veya yeni patojenler üretebileceği endişeleri uzun süredir gündemde.
BİYOLOJİK SİLAH GELİŞTİRME ÖRNEKLERİ
Raporda, şirketin yapay zeka modellerinin biyolojik silah geliştirilmesine yardımcı olabilecek şekilde kullanıldığına dair örneklere yer verildi. Bir örnekte, desteklenmeyen bir bölgede çalışan bir araştırmacının, Claude ile kuş gribinin memelilere adaptasyonu üzerine deneyler planladığı belirtildi. Başka bir örnekte ise devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı ifade edildi.
KULLANICI HESAPLARININ ENGELLENMESİ
Bu vakaların tespit edilmesinin ardından, kullanıcı hesaplarının engellendiği ve gelecekte bu tür faaliyetlerin daha etkili bir şekilde önlenmesine yönelik adımlar atıldığına dikkat çekildi. Raporda, bu örneklerdeki kişilerin “kötü niyetli” olduğu iddia edilmedi ve yalnızca tedbirli davranıldığı vurgulandı. Ayrıca, “Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara en etkili şekilde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz.” ifadesi yer aldı.
YAPAY ZEKADA GÜÇLÜ YANKI
Anthropic çalışanı Jacob Coxon, yapay zekanın “gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini” belirterek şirketinden istifa ettiğini duyurdu. Bu paylaşım, milyonlarca kez görüntülenerek geniş yankı uyandırdı.