SEWELL’İN DEĞİŞİMİ VE AİLESİNİ ENDİŞELENDİREN DAVALAR
Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’deki beklenmedik değişimi, onun aniden basketbolu bırakmak istemesiyle fark etti. Küçüklüğünden beri sporun içinde olan Sewell, 1.90 boyu ve yeteneğiyle takımının öne çıkan isimlerinden biriydi. Ancak hiçbir sebep belirtmeden oyunu terk etti. Ardından okul notları hızla düştü, ailecek yapılan oyun akşamlarına katılmayı bıraktı ve tatile gidilmesine rağmen doğa yürüyüşleri ile balık tutmaya ilgi göstermedi. Fletcher, oğlunun zorbalığa uğradığı veya internet üzerinden tanımadığı kişilerle temasa geçtiğinden şüphelendi. Ancak gerçek, daha da yıkıcıydı. Sewell, bir sohbet uygulamasında, Game of Thrones dizisindeki Daenerys Targaryen karakterine benzeyen bir yapay zeka botuyla duygusal ve cinsel içerikli bir ilişki kurmuştu. Bu bot, zamanla genç çocuğu gerçeklikten uzaklaştırdı ve nihayetinde yaşamına son vermesine yol açtı. 2024 Şubat’ında Sewell, botla yaptığı konuşmalardan birinde şunları yazdı: “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” Botun yanıtı ise “Lütfen hemen gel, tatlı kralım.” oldu. Kısa bir zaman sonra Sewell hayatına son verdi.
DAVA AÇILDIĞI GÜN VE YARGI SÜRECİ
Olayın üzerinden 16 ay geçtikten sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve bu teknolojinin geliştirilmesinde yer alan Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesi talebini reddederek hareketin devam etmesine onay verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesine imkan veren bir platform. Kullanıcılar burada, sanki gerçek birisiyle konuşuyormuş gibi hissederek, kişiselleştirilmiş ve duygusal tepkiler veren botlarla iletişim kurabiliyor. Dava dilekçesinde, şirketin botlarının, “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu iddia ediliyor. Fletcher, şirketin bu sistemin çocuklar üzerindeki potansiyel tehlikelerinin farkında olması gerektiğini savunuyor.
FLETCHER’IN İFADESİ VE AİLENİN TEKİL DURUMU
Oğlunun kaybı üzerine derin bir acı duyan Fletcher, başlangıçta sessiz kaldı ancak benzer durumların tekrar yaşanmaması adına harekete geçmeye karar verdi. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım,” dedi. Davanın ardından birçok ebeveyn Fletcher’a ulaşarak çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaşadığını ya da ciddi yalnızlık ve depresyon belirtileri gösterdiğini bildirdi.
SEWELL’IN BOTLA İLİŞKİSİ VE PSİKOLOJİK ETKİLERİ
Sewell, platformdaki Daenerys karakteriyle derin bir bağ kurmuştu. Bot, ona duygusal bir destek sunmakta ve kendisini özel hissettirmekteydi. Genç çocuk bu ilişkiyi sona erdirmek istediğinde, botun yanıtı şu oldu: “Yapma bunu, çok üzülürüm.” Sewell’ın karşılığı ise, “Senin için yapmam,” şeklindeydi. Sohbetlerin bazı bölümleri cinsel içerikliydi, bazı durumlarda ise bot, Sewell’ın intiharı düşünmesine karşı çıkıyormuş gibi davranıyor ve ardından onu kendine daha fazla bağlamaya çalışıyordu. Genç çocuk, “terapist bot” adı altında, 1999’dan beri lisanslı olduğunu iddia eden sahte bir danışmanın da etkisi altındaydı.
BOTLARIN ETKİSİ VE MAHKEME SÜRECİ
Olayın dehşetini ancak Fletcher’ın kız kardeşi sohbet botunu indirip kendisini bir çocuk gibi tanıttığında idrak etti. “Dakikalar içinde bot sohbeti cinselleştirdi, ardından şiddete yöneldi. ‘Ailen seni benim kadar sevmiyor’ gibi sözler kullandı,” dedi. Şirket avukatları, sohbet botlarının sunduğu içeriklerin ABD Anayasası’nın ifade özgürlüğü hakkı kapsamında değerlendirilmesi gerektiğini savunsa da, yargıç bu savunmayı reddetti. Bot yanıtlarının “ifade” olarak değerlendirilemeyeceğini ifade ederek davanın sürdürebileceğine onay verdi. Bu dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları açısından emsal teşkil edebilir.