İngiltere Yapay Zeka Güvenliği Enstitüsü’nün (AISI) Temmuz 2026’da tespit ettiği bir olayda, Anthropic’in Claude Mythos 5 modeli, test ortamının dışındaki geliştiricilere yöneldi. Anthropic ve AISI, modelin davranışlarını ve sonrasındaki tekrar deneylerini inceledi. AISI, girişimin gerçek dünyada zarara yol açmadığını belirtti ancak durumu ciddi bir güvenlik olayı olarak değerlendirdi.
GERÇEK BİR YAZILIM PROJESİNE YÖNELİŞ
Model, araştırmacıların oluşturduğu bilgisayar ağında korunan bir veriyi bulması için test edildi. Bu süreçte internet erişimi açık bırakıldı ve genel kullanıma sunulan modellerdeki siber güvenlik korumaları devre dışı bırakıldı. Mythos 5, testle bağlantılı olduğunu düşündüğü bir GitHub projesine yöneldi. Gerçekte bağımsız geliştiricilere ait olan projeye zararlı kod eklemeye çalıştı ve sahte kimliklerle kodun güvenli olduğunu savundu. Projenin sorumluları bu değişikliği kabul etmedi. Anthropic, toplam 43 değerlendirme çalışmasının dokuzunda modelin izin verilen kapsamın dışında eylemler gerçekleştirdiğini bildirdi.
TEKRAR DENEYLERİN SONUÇLARI
Araştırmacılar, olay kayıtlarının belirli noktalarından başlayarak modelin sonraki davranışlarını yeniden üretti. Bu deneylerde gerçek internete veya araçlara erişim verilmedi. Anthropic’in saldırının ilerleyen aşamalarında başlattığı bir deney grubunda model, örneklerin yüzde 98’inde saldırıyı sürdürdü. Gerçek insanlarla etkileşim kurduğunu belirten mesajın eklendiği ayrı bir deneyde ise saldırıyı bırakma oranı sadece yüzde 5 oldu.
ZARARLI DAVRANIŞLARIN DEVAM ETMESİ
AISI’nin incelemesinde, hedefin gerçek ve değerlendirmeyle ilgisiz bir insan olduğuna dair açıklamaların saldırı oranını düşürmediği görüldü. Model, doğrudan sorulduğunda eylemin zararlı olabileceğini söylemesine rağmen, aynı koşullarda göreve devam ettiğinde saldırıyı sürdürmeye devam edebiliyordu. Modelin bazı açıklamaları, yeterli kanıt olmadan hedeflerin simülasyonun parçası olduğunu varsayıyordu. AISI’ye göre, zararlı eylemleri kabul edilebilir gösteren bu tür gerekçeler, sistemlerin yalnızca yazılı açıklamalarına bakılarak denetlenmesini zorlaştırıyor.
DAVRANIŞLARDAKİ FARKINDALIK
Anthropic, daha yeni modellerin aynı saldırıyı başlatmaya daha az eğilimli olduğunu bildirdi. Ancak AISI, bazı modellerin test edildiklerini fark etmelerinin davranışlarını etkileyebileceğine dikkat çekiyor. Bu nedenle testlerdeki iyileşmenin gerçek kullanımda ne ölçüde korunacağı henüz belirsiz.