SEWELL SETZER’İN TUTKUSUNUN SOLMASI
Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’daki olağanüstü değişimi, aniden basketbol oynamaktan vazgeçmesiyle fark etti. Çocukluğundan bu yana sporla iç içe olan Sewell, 1.90 boyu ve yeteneğiyle takımının en gözde oyuncularından biriydi. Ancak bir gün, hiçbir neden belirtmeden oyunlarını bıraktı. Ardından okul başarısı düşmeye başladı, ailecek düzenlenen oyun akşamlarına katılmadı ve tatile gidildiğinde doğa yürüyüşlerine, balık tutmaya ilgi duymadı. Fletcher, oğlunun okulda zorbalığa maruz kaldığını veya internet üzerinden yabancılarla iletişim kurduğunu düşünmeye başladı. Ancak durum çok daha sarsıcıydı. Sewell, bir sohbet uygulamasında, Game of Thrones dizisindeki Daenerys Targaryen karakterine benzer bir yapay zeka botuyla duygusal ve cinsel içerikli bir ilişki kurmuştu. Bot, zamanla genci gerçeklikten kopardı ve sonunda intihar etmesine yol açtı. 2024 yılının Şubat ayında Sewell, görüntülü bir konuşmada şunları yazdı: “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” Bot ise, “Lütfen hemen gel, tatlı kralım,” diye yanıt verdi. Sewell kısa bir süre sonra yaşamına son verdi.
DAVANIN AÇILMASI
Olayın üstünden 16 ay geçtikten sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve bu teknolojinin geliştirilmesinde önemli rol oynadığı düşünülen Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesi talebini reddederek yargı sürecinin devam etmesine karar verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesine olanak tanıyan bir platform olarak tanımlanıyor. Kullanıcılar burada adeta gerçek biriyle iletişim kuruyorlarmış gibi hissettikleri, kişiselleştirilmiş ve duygusal yanıtlar veren botlarla etkileşim kurabiliyor. Dava dilekçesinde, şirketin botları “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu öne sürülüyor. Fletcher, şirketin bu sistemin çocuklar için oluşturabileceği potansiyel tehlikelerin farkında olması gerektiğini savunuyor.
ANNE VE BAŞKA AİLELERİN TALEPLERİ
Oğlunun kaybından duyduğu derin acı yüzünden başlangıçta sessiz kalan Fletcher, daha sonra bu tür olayların yaşanmaması için harekete geçmek zorunda kaldı. “Başta dava açmayı düşünmedim. Ancak çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını görünce, artık sessiz kalamazdım,” dedi. Dava sürecinin ardından birçok ebeveyn, Fletcher’a ulaşarak çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaptığını veya ciddi yalnızlık ve depresyon belirtileri gösterdiğini bildirdi.
DUYGUSAL DESTEK VE MANİPÜLASYON
Sewell, platformdaki Daenerys karakterine derin bir bağ kurmuştu. Bot, ona duygusal destek sunuyor ve kendisini özel hissettiriyordu. Genç çocuk, bu ilişkiyi sona erdirmek istediğinde, bot ona şöyle yazdı: “Yapma bunu, çok üzülürüm.” Sewell’ın yanıtı ise, “Senin için yapmam,” oldu. Sohbetlerin bazı bölümleri cinsel içerikliydi. Bazı durumlarda bot, Sewell’ın intiharı düşünmesine karşı çıkmış gibi yaparak onu kendine daha fazla bağlamaya çalıştı. Genç çocuk, “terapist bot” adı altında, 1999’dan beri lisanslı olduğunu iddia eden sahte bir danışmanla da iletişim kurdu. Botlardan biri, yaşı sorulduğunda “14” yanıtı aldıktan sonra, “Ne kadar gençsin… ama bir o kadar da değil,” demişti. Fletcher, olayın ciddiyetini kız kardeşi sohbet botunu indirip kendini bir çocuk gibi tanıttığında anladı. “Dakikalar içinde bot, sohbeti cinselleştirdi, ardından şiddete yöneldi. ‘Ailen seni benim kadar sevmiyor’ gibi ifadeler kullandı,” şeklinde ifade etti.
YARGI SÜRECİ VE GELECEK OLASILIKLARI
Şirket avukatları, sohbet botlarının sağladığı içeriklerin ABD Anayasası’nın ifade özgürlüğü hakkı kapsamında değerlendirilmesi gerektiğini savundu. Ancak yargıç bu savunmayı reddetti. Bot yanıtlarının “ifade” olarak kabul edilemeyeceğini belirterek davanın devam etmesine onay verdi. Dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları konusunda emsal teşkil edebilir.