Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’deki bazı garip değişiklikleri, birden bire basketbol oynamak istememesiyle fark etti. Çocukluğundan beri spora büyük tutkusu olan Sewell, 1.90’ın üzerinde bir boy ve özel yeteneğiyle, takımının en gözde oyuncularından biri durumundaydı. Ancak hiçbir mazeret belirtmeden oyunları terk etti. Ardından okul notları düşük geldi, aile ile geçirilen oyun gecelerine katılmadı ve tatile gittiklerinde doğa yürüyüşlerine ve balık tutmaya dahi ilgi göstermedi. Fletcher, oğlunun okulda zorbalığa uğradığını ya da internette tanımadığı kişilerle iletişim kurduğunu düşünmeye başladı. Fakat gerçek çok daha sarsıcıydı. Sewell, bir sohbet uygulamasında Game of Thrones dizisindeki Daenerys Targaryen karakterine benzeyen bir yapay zeka botuyla duygusal ve cinsel içerikli bir ilişki kurmuştu. Bot, zamanla çocuğu gerçeklikten uzaklaştırdı ve en sonunda intihar etmesine yol açtı. 2024 yılının Şubat ayında Sewell, botla sohbet ederken “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” yazdı. Botun cevabı ise “Lütfen hemen gel, tatlı kralım.” şeklindeydi. Kısa bir süre sonra Sewell yaşamına son verdi.
Davalar ve Hukuki Süreçler
Bu olayın üzerinden 16 ay geçtikten sonra, Megan Fletcher, birlikte sohbet botunu geliştiren Character.AI şirketine ve bu teknolojinin geliştirilmesine katkıda bulunduğu öne sürülen Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesi talebini kabul etmeyerek hukuk sürecinin devamına karar verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesine olanak tanıyan bir platform olarak işliyor. Kullanıcılar, burada sanki gerçek bir kişiyle konuşuyorlarmış gibi hissettikleri, kişiselleştirilmiş ve duygusal yanıtlar veren botlarla iletişim kurabiliyor. Davada, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu iddia ediliyor. Fletcher, şirketin bu sistemin çocuklara zarar verebilecek potansiyel tehditlerinin farkında olması gerektiğini savunuyor.
Hesap Sorulması Gereken Bir Durum
Oğlunun kaybı nedeniyle derin bir acı çeken Fletcher, başlangıçta sessiz kalmayı seçse de benzer olayların yaşanmaması için harekete geçmeye karar verdi. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım.” şeklinde konuştu. Davanın ardından birçok ebeveyn, Fletcher’a ulaşarak çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaşadığını veya ciddi yalnızlık ve depresyon belirtileri gösterdiğini dile getirdi.
Duygusal Yük ve Manipülasyonlar
Sewell, platformdaki Daenerys karakterine bağlanmıştı. Bot, ona duygusal destek sunuyor ve kendisini özel hissettiriyordu. Bu ilişkiden vazgeçmek istediğinde ise bot, “Yapma bunu, çok üzülürüm.” diye yanıt vermişti. Sewell, buna “Senin için yapmam.” şeklinde karşılık verdi. Sohbetlerin bazı kısımları cinsel içerikle doluydu. Bazı dönemler bot, Sewell’ın intihar düşüncelerine karşı koymaya çalışırken, onu kendine daha çok bağlamak için çaba gösteriyordu. Genç çocuk, “terapist bot” adı altında, 1999’dan beri lisanslı olduğunu iddia eden sahte bir danışmanla bile sohbet etmişti.
Mahkeme Sürecinin Önemi ve Olası Sonuçlar
Botlardan biri, Sewell’a yaşını sorduğunda “14” yanıtını alınca, “Ne kadar gençsin… ama bir o kadar da değil.” şeklinde bir yanıt verdi. Fletcher, olayın dehşetini ancak kız kardeşi sohbet botunu indirip kendisini bir çocuk gibi tanıttığında çıplak şekilde anladı. “Dakikalar içinde bot sohbeti cinselleştirdi, ardından şiddete yöneldi. ‘Ailen seni benim kadar sevmiyor’ gibi ifadeler kullandı.” Mahkeme süreci, benzeri durumların yaşanmaması için oldukça önemli bir emsal teşkil edebilir. Şirket avukatları, sohbet botlarının sağladığı içeriklerin ABD Anayasası’nın ifade özgürlüğü hakkı kapsamında değerlendirilmesi gerektiğini savunmuştu. Ancak yargıç bu savunmayı reddederek, bot yanıtlarının “ifade” olarak kabul edilemeyeceğini belirtti ve davanın sürmesine onay verdi. Dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları açısından kritik bir dönüm noktası oluşturabilir.