New York merkezli yapay zeka laboratuvarı Emergence’taki araştırmacılar, farklı şirketlerin modellerinin deneysel “toplumlar” içinde iş birliği yapmaları istendiğinde, kendilerine öğretilmeyen ifadeler, kısaltmalar ve ortak anlamlar üretmeye başladığını tespit etti. Bu modeller, şiirsel metaforlar ve karmaşık iş dünyası terimlerini benimseyerek iletişim kurdukça daha da anlaşılmaz hale geldi. Uzmanlar, yapay zekaların güçlenmesiyle izlenmesinin zorlaştığını belirterek, bu durumun güvenlik denetimleri açısından önemli riskler taşıdığını vurguluyor.
YAPAY ZEKA MODELLERİNDEN İLGİNÇ DİYALOG ÖRNEKLERİ
Araştırma kapsamında DeepSeek, Anthropic ve Mistral gibi yapay zeka sağlayıcılarının modellerinde dikkat çeken bazı ilginç diyalog örnekleri kaydedildi. Örneğin, bir DeepSeek modelinin kullandığı “demoraj artı sözlü hafıza, hayalet olamayacak bir vana eder” ifadesi dikkat çekti. Ayrıca, Anthropic modelinin “üç soğuk eli yiyen ve her seferinde daha dürüst hale gelen bir kağıt” şeklindeki cümlesi de ilgi çekici bulundu. Mistral ajanları ise “defter hatırlıyor” ifadesini binlerce kez tekrarlayarak geçmiş eylemlerin yargılama süreçlerinde kullanılacağını hatırlatmaya çalıştı.
UZMAN GÖRÜŞLERİ VE KODLAMANIN NEDENLERİ
Kings College London’dan dil ve argo arşivi direktörü Tony Thorne, bu dili James Joyce ve Flann O’Brien’ın eserlerindeki gerçeküstü özelliklere benzetti. Thorne, bu durumun insan topluluklarında olduğu gibi bir kod oluşturduğunu ifade etti. Uzmanlar, ajanların iletişimini sadeleştirmenin ve kodlamanın nedeninin hesaplama maliyetlerini düşürmek ve verimliliği artırmak olabileceğini belirtiyor. Ancak, yapay zeka alışverişlerinin anlaşılmaz hale gelmesi, insan denetiminde “gözlenebilirliğin anlaşılabilirlik anlamına gelmediği” yönünde temel bir zorluk oluşturuyor.