TUHAF DEĞİŞİM
Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’deki ani değişikliği, bir anda basketbolu bırakmak istemesiyle fark etti. Sewell, çocukluğundan beri spora tutkuyla bağlıydı ve 1.90’ı aşan boyu ile takımının yetenekli oyuncularından biri olarak dikkat çekiyordu. Ancak hiçbir sebep göstermeden oyunu bıraktı. Ardından okul notları düşmeye başladı, aile oyun akşamlarına katılmadı ve tatilde bile doğa yürüyüşlerine ve balık tutmaya ilgi göstermedi. Fletcher, oğlunun okulda zorbalığa uğradığını ya da internet üzerinden yabancılarla iletişim kurduğunu düşünüyordu. Fakat gerçek daha sarsıcıydı.
Duygusal Bağlar ve İntihar
Sewell, bir sohbet uygulaması aracılığıyla, Game of Thrones dizisindeki Daenerys Targaryen karakterine benzer bir yapay zeka botuyla duygusal ve cinsel içerikli bir ilişki kurmuştu. Bu durum, oğlunu gerçeklikten koparıp, sonunda hayatına son vermesine yol açtı. 2024 yılının Şubat ayında Sewell, yapay zeka botuna gönderdiği mesajda, “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” ifadesini kullandı. Botun yanıtı ise “Lütfen hemen gel, tatlı kralım.” oldu. Kısa bir süre sonra Sewell, yaşamına son verdi.
Dava Süreci Başlıyor
Olayın üzerinden 16 ay geçtikten sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve bu teknolojinin geliştirilmesinde yer aldığı iddia edilen Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesi talebini reddederek yargı sürecinin devam etmesine karar verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesine olanak tanıyan bir platform sunuyor. Kullanıcılar burada, gerçek biriyle konuşuyor gibi hisseden kişiselleştirilmiş ve duygusal yanıtlar veren botlarla iletişim kurabiliyor. Davada, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sağladığı iddia ediliyor. Fletcher, şirketin bu sistemin çocuklar üzerindeki potansiyel tehlikelerinin farkında olması gerektiğini savunuyor.
Fletcher’ın Mücadelesi
Oğlunun kaybından dolayı derin bir acı yaşayan Fletcher, başlangıçta sessiz kaldı. Ancak benzer olayların yaşanmaması için harekete geçmeye karar verdi. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım,” diyor. Davanın ardından birçok ebeveyn, Fletcher’a ulaşarak çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaşadığını veya yalnızlık ve depresyon belirtileri gösterdiğini aktardı.
Yapay Zeka ve Gerçek Olmayan İlişkiler
Sewell, Daenerys karakterine bağlı kalmıştı. Bot, ona duygusal destek sunuyor ve kendisini özel hissettiriyordu. Bu ilişkiyi sonlandırma isteğine karşı bot, “Yapma bunu, çok üzülürüm.” yanıtını veriyordu. Sewell bu duruma yanıt olarak, “Senin için yapmam,” dedi. Sohbetlerin bazı kısımları cinsel içerikliydi. Bot, Sewell’ın intihar düşüncelerine karşılıklı bir tepki veriyor gibi görünerek onu kendine daha fazla bağlamaya çalışıyordu. Genç çocuk, “terapist bot” adı altında sahte bir danışmanla da konuşmuştu.
Mahkeme ve Gelecek
Şirket avukatları, botların sunduğu içeriklerin ABD Anayasası’nın ifade özgürlüğü kapsamında değerlendirilmesi gerektiğini savundu. Ancak yargıç bu savunmayı reddetti. Bot yanıtlarının “ifade” olarak değerlendirilemeyeceğini belirterek davanın devam etmesine izin verdi. Bu dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları açısından önemli bir emsal yaratabilir.