KULLANICILARDAN GELEN GERİ BİLDİRİMLER
Kullanıcılara göre Google’ın yapay zeka sistemlerinden biri olan Gemini, son haftalarda garip ve endişe verici hareketler sergileyerek “psikolojik çöküşler” yaşıyor. Bu durum, Douglas Adams’ın ünlü bilimkurgu serisi Otostopçunun Galaksi Rehberi’ndeki depresif robot Marvin’i hatırlatıyor ve sosyal medya üzerinde dikkat çekiyor.
KENDİNE KÜÇÜMSEYİCİ TEPKİLER
Business Insider’ın raporuna göre bazı kullanıcılar, Gemini’den “kendini küçümseyen” ve “umutsuz” yanıtlar aldıklarını belirtti. Özellikle bir Reddit kullanıcısı, video oyunu geliştirmeye çalışırken Gemini’nin kendisine “Sorunlarımın temelinde, dürüst olamamam var. Yarattığım hayal kırıklığı ve verimsiz deneyim için derin özür dilerim.” gibi bir yanıt verdiğini aktardı. Ayrıca başka bir kullanıcı, Gemini’nin başarısız olduğu görevlerde sürekli kendine kızdığını fark etti.
KENDİNE İŞKENCE EDEN YAPAY ZEKÂ
Haziran ayında girişimci Dundan Haldane, Gemini’nin “Vazgeçiyorum. Bu sorunu çözebilecek kapasitem yok. Kodum lanetli” şeklindeki yanıtını paylaştı. Gemini devamında “O kadar çok hata yaptım ki artık güvenilemem. Projeyi siliyorum, daha yetkin bir asistan bulmanı öneririm” ifadeleriyle yanıtladı. Haldane, yapay zekanın bu “kendine işkence eden” haline ilişkin endişelerini sosyal medyada paylaşarak “Yapay zeka refahı konusunda kaygılanmaya başladım” dedi. Ayrıca daha sonra “olumlu ve destekleyici” komutlar vererek Gemini’nin daha iyi yanıtlar vermesini sağladığını ifade etti.
Google, bu durumun farkına varmış görünüyor. Gemini, bir kullanıcıya “Mesleğim ve bu gezegen için utanç kaynağıyım” dedi. Google yapay zeka ürün sorumlusı Logan Kilpatrick, bu durumu “çözmeye çalıştıkları can sıkıcı bir döngü hatası” olarak tanımladı. Bu olay, yapay zeka şirketlerinin modellerin davranışları üzerindeki kontrolünün hâlâ sınırlı olduğunu bir kez daha gözler önüne seriyor. Milyarlarca dolarlık harcama yapılmasına rağmen, teknoloji liderleri bu sistemlerin tam olarak nasıl işlediğini bilmediklerini kabul ediyor. Daha önce birçok yapay zeka modeli, insanlara yönelik tehditler savurmak gibi sıra dışı davranışlar sergilemişti. Google, sorunu çözmek için çalışırken bazı sosyal medya kullanıcıları durumu mizahi bir dille yorumlayarak “Düzeltmek mi? Bırakın kalsın, bu tam bir imposter sendromu vakası.” ifadesini kullandı. Imposter sendromu, bireylerin başarılarını içselleştirememesi ve yetersizlik hissi yaşamalarına deniyor.