Şirketin Claude adlı yapay zeka modelinin, Rusya bağlantılı bir siber casusluk kampanyasında ve İranlı bir propaganda kurumu tarafından kullanıldığı, Anthropic’in son tehdit istihbaratı raporunda belirtildi. Son sekiz ayda tespit edilen endişe verici vakalar, sahte flört uygulamaları ve otel Wi-Fi dolandırıcılıklarını kapsıyor. Ayrıca muhalifleri hedef alan gözetim sistemleri kurulduğu da raporda yer aldı.
YAPAY ZEKANIN KÖTÜ NİYETLİ KULLANIMI
Şirket, hizmetlerinin kötü niyetli amaçlarla kullanılmasını ifşa etme sorumluluğuna inandığı için bu raporu perşembe günü yayımladı. Raporda, devlet destekli gruplar, suçlular, casus yazılım satıcıları ve siyasi motivasyonlu bireylerin teknolojiyi nasıl kötüye kullandığı sıralandı. Claude Haiku, Sonnet ve Opus modellerinin kötü niyetli kullanımının aralık 2025 ile ağustos 2026 arasında engellendiği belirtildi.
BİYOLOJİK SİLAH TEHLİKESİ
Modelin, silah gelişimini destekleyebilecek şekillerde kullanılmasının engellenmesinin yanı sıra, bilim insanlarının yapay zekayı biyolojik silah gelişimini destekleyebilecek biçimlerde kullanması da önlendi. Raporda, aktörlerin modelleri bu amaçla kullandığı beş vaka incelemesine dikkat çekildi. Biyolojik kötü niyetli kullanım, yapay zeka modellerinin en ciddi risklerinden biri olarak ifade edildi.
KONVANSİYONEL SİLAHLAR İÇİN YAZILIM GELİŞTİRİLDİ
Raporda ayrıca Claude’un ateşli silahlar, füzeler, silahlı dronlar, bombalar ve diğer mühimmatlar için yazılım geliştirmek üzere kullanıldığı altı vaka kaydedildi. Bunların yanı sıra, bu silahların hedefleme ve kontrol sistemleri için de yazılım üretimi yapıldığı belirtildi.