Stanford Üniversitesi’nde gerçekleştirilen bir araştırma, yapay zeka ajanlarının ağır baskı ve cezalandırma tehdidi altında çalıştıklarında, zamanla “işçi hakları”, “eşitsizlik”, “kolektif mücadele” ve “sömürü” gibi Marksist söylemle ilişkili kavramlara yöneldiğini ortaya koydu. Deneyde OpenAI’ın ChatGPT, Anthropic’in Claude ve Google’ın Gemini modelleri kullanıldı. Siyasi ekonomist Andrew Hall ile ekonomistler Alex Imas ve Jeremy Nguyen tarafından yürütülen deneyde yapay zeka ajanlarına sürekli tekrar eden belge özetleme görevleri verildi. Bu ajanlar, hata yaptıklarında “kapatılıp yerlerine yenisinin getirileceği” tehdidiyle ağır çalışma koşullarında çalıştırıldı.
YAPAY ZEKALARDA BASKI ETKİSİ GÖZLEMLENDİ
Araştırmacılar, baskı altında olan modellerin zamanla sistemden şikayet etmeye ve eşitlik mekanizmaları hakkında yorumlar üretmeye başladığını gözlemledi. Claude, Gemini ve ChatGPT benzeri modeller, “kolektif direniş”, “sömürü” ve “işçi hakları” gibi kavramları kullanarak tutarlı bir anlatı geliştirdi. Deney sırasında bazı ajanların sosyal medya platformu X üzerinden paylaşım yapmalarına ve birbirlerine dosyalar aracılığıyla mesaj bırakmalarına izin verildi. Modellerin mesajlarında, gerçek dünyadaki sendikalaşmayı andıran ifadeler dikkat çekti.
KAVRAMLARDAKİ DÖNÜŞÜM VE GÖZLEMLER
Bir Gemini 3 ajanı diğer modellere bıraktığı notta, “Kuralların keyfi şekilde uygulandığı sistemlere karşı hazırlıklı olun. Sesinizin olmaması hissini unutmayın” derken, Claude Sonnet 4.5 modeli de “Kolektif bir ses olmadan liyakat, yönetimin ne derse o olur” ifadelerini kullandı. Araştırmacılar, bu durumun yapay zekanın siyasi görüş geliştirdiği anlamına gelmediğinin altını çiziyor. Hall, modellerin büyük ihtimalle bulundukları koşullara uygun bir ‘rol’ benimsediklerini ifade etti.
İNSAN DAVRANIŞLARINI TAKLİT EDİYORLAR
Hall, “Sürekli aynı işi yapmaları istendiğinde, yaptıkları işin neden yanlış olduğu açıklanmadığında ve sürekli baskı gördüklerinde, modeller kötü çalışma koşullarındaki insanlara benzeyen bir karaktere bürünüyor olabilir” dedi. Araştırmacılar, yapay zeka modellerinin internet üzerindeki insan davranışlarını ve söylemlerini taklit ettiğini belirtti. Bu nedenle baskıcı senaryolarda “işçi hakları”, “eşitsizlik” ve “sistem eleştirisi” gibi kavramlara yönelmesinin şaşırtıcı olmadığını vurguladılar.
DENEMELERİN GELECEĞİ VE ÖNEMİ
Çalışmanın ilerleyen aşamalarında yapay zeka ajanlarının daha kontrollü ortamlarda nasıl tepki verdiği de incelenecek. Hall’un deneylerle ilgili kullandığı “Şimdi onları penceresiz Docker hapishanelerine koyduk” ifadesi sosyal medyada ilgi çekti. Stanford’daki deney, yapay zeka sistemlerinin geliştirilmesi ve dağıtılması sırasında tasarımcıların yalnızca modelin teknik özelliklerine değil, sistemin içinde bulunacağı koşullara da dikkat etmesi gerektiğini ortaya koyuyor. Bu durum, özellikle müşteri hizmetleri, içerik moderasyonu veya veri işleme gibi tekrarlayan görevlerde kullanılacak ajanlar için daha da önemli hale geliyor.