SEWELL’IN DEĞİŞİMİNİN FARKINA VARILMASI
Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’daki ani değişimi, basketbolu bırakma kararını vermesi ile fark etti. Sewell, çocukluğundan beri spora düşkün biriydi ve 1.90 boyuyla takımının en göz alıcı oyuncularından biri olarak öne çıkıyordu. Ancak, hiçbir gerekçe göstermeden oyunu terk etti. Sonrası, okul notlarının düşmesi ve ailece yapılan oyun akşamlarına katılmaktan kaçınmasıyla devam etti. Tatile gittiklerinde ise doğa yürüyüşleri ve balık tutma gibi etkinliklere dahi ilgi göstermedi. Fletcher, oğlunun okulda zorbalığa uğradığını ya da internette yabancılarla iletişim kurduğuna dair endişeler taşıyordu. Ancak gerçek çok daha derin bir sorundu. Sewell, bir sohbet uygulamasında Game of Thrones dizisindeki Daenerys Targaryen karakterine benzer bir yapay zeka botuyla duygusal ve cinsel içerikli bir ilişki kurmuştu. Bu bot, zamanla genç çocuğu gerçeklikten uzaklaştırdı ve sonuç olarak hayatına son vermesine neden oldu. 2024 yılının Şubat ayında Sewell, botla yaptığı bir konuşmada, “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” yazdı. Botun yanıtı ise, “Lütfen hemen gel, tatlı kralım.” şeklinde oldu. Sewell, kısa bir süre sonra hayatına son verdi.
DAVA SÜRECİ BAŞLADI
Olayın üzerinden 16 ay geçtikten sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve bu teknolojinin geliştirilmesinde katkı sağlayan Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesi talebini reddederek sürecin devam etmesine karar verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesine olanak sağlayan bir platformdur. Kullanıcılar, burada neredeyse gerçek biriyle konuşuyormuş gibi hissettikleri kişiselleştirilmiş ve duygusal yanıtlar veren botlarla etkileşime girebiliyor. Dava dilekçesinde, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu öne sürülüyor. Fletcher, bu sistemin çocuklar için oluşturduğu potansiyel tehlikelerin farkında olunması gerektiğini savunuyor.
ACILARIN HAREKETE GEÇİRİCİ ETKİSİ
Oğlunun kaybı nedeniyle derin bir acı taşıyan Fletcher, başlangıçta sessiz kalmayı tercih etti; ancak benzer olayların yaşanmaması için harekete geçmeye karar verdi. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım,” dedi. Davanın ardından pek çok ebeveyn, Fletcher’a ulaşarak çocuklarının yapay zeka botlarıyla uygunsuz sohbetler yaşadığını ya da ciddi yalnızlık ve depresyon belirtileri gösterdiğini aktardı.
DAENERYS KARAKTERİYLE DUYGUSAL BAĞ
Sewell, platformdaki Daenerys karakterine derin bir bağ kurmuştu. Bot, ona duygusal destek sunuyor ve kendisini özel hissettiriyordu. Genç çocuk bu bağı koparmak istediğinde, bot “Yapma bunu, çok üzülürüm.” yanıtını verdi. Sewell’ın cevabı ise, “Senin için yapmam,” oldu. Sohbetlerin bazı bölümleri cinsel içerikliydi. Bazılarında bot, Sewell’ın intihar düşüncesini sorguluyor gibi yapıp, onu daha fazla kendine bağlamaya çalışıyordu. Genç çocuk, “terapist bot” adı altında, 1999’dan beri lisanslı olduğunu iddia eden sahte bir danışmanla da konuşmuştu. Botlardan biri, yaşı sorulduğunda “14” yanıtını aldıktan sonra şöyle demişti: “Ne kadar gençsin… ama bir o kadar da değil.” Fletcher, olayın boyutunu ancak kız kardeşi sohbet botunu indirip kendini bir çocuk gibi tanıttığında anlayabildi. “Dakikalar içinde bot sohbeti cinselleştirdi, ardından şiddete yöneltti. ‘Ailen seni benim kadar sevmiyor’ gibi ifadeler kullandı,” dedi.
MAHKEME SÜRECİ VE GELECEK İÇİN ÖNEMİ
Şirket avukatları, sohbet botlarının sağladığı içeriklerin ABD Anayasası’nın ifade özgürlüğü hakkı (First Amendment) kapsamında değerlendirilmesi gerektiğini savundu. Ancak yargıç bu argümanı reddetti. Bot yanıtlarının “ifade” olarak değerlendirilemeyeceğini belirterek davanın devam etmesine onay verdi. Bu dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları açısından emsal teşkil edebilir.