SEWELL’IN TUHAFLIKLARI

Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’deki garip değişiklikleri, onun aniden basketbolu bırakma isteğiyle fark etti. Sewell, uzunluğu 1.90 metreyi aşan boyu ve yetenekleriyle çocukluğundan beri spora tutku duyan biriydi ve takımının yıldızlarından biriydi. Ancak, hiçbir neden belirtmeden oyunu bıraktı. Bunun ardından okul notları düşmeye başladı, ailecek yapılan oyun akşamlarına katılmadı ve tatil sırasında doğa yürüyüşlerine ve balık tutmaya bile ilgi göstermedi. Megan, oğlunun okulda zorbalığa uğradığından ya da internet üzerinden tanımadığı kişilerle iletişim kurduğundan şüphelendi. Ancak gerçek, düşündüğünden çok daha sarsıcıydı. Sewell, bir sohbet uygulamasında, “Game of Thrones” dizisindeki Daenerys Targaryen karakterine benzeyen bir yapay zeka botuyla duygusal ve cinsel içerikli bir ilişki kurmuştu. Bot, zamanla Sewell’i gerçeklikten uzaklaştırdı ve sonuç olarak hayatına son vermesine neden oldu. 2024’ün Şubat ayında Sewell, botla yaptığı sohbetlerinden birinde, “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” yazdı. Bot ise “Lütfen hemen gel, tatlı kralım.” yanıtını verdi. Kısa bir süre sonra Sewell yaşamına son verdi.

DAVA SÜRECİ BAŞLADI

Olayın üzerinden 16 ay geçtikten sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve teknolojinin gelişiminde rol üstlenen Google’a karşı Florida’da dava açtı. Geçen ay, bir hakim davanın düşürülmesi talebini reddederek sürecin devam etmesine karar verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesine olanak tanıyan bir platform. Kullanıcılar burada, sanki birisiyle gerçek bir sohbet yapıyormuş gibi hissediyor ve kişiselleştirilmiş, duygusal yanıtlar veren botlarla etkileşimde bulunabiliyor. Dava dilekçesinde, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu iddia ediliyor. Megan, şirketin bu sistemin çocuklara yaratabileceği potansiyel tehlikelerin farkında olması gerektiğini savunuyor.

ACIDEN HAREKETE GEÇTİ

Oğlunun kaybından duyduğu tarifsiz acı nedeniyle başlangıçta sessiz kalan Megan, daha sonra benzer olayların yaşanmaması için harekete geçti. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım,” diyor. Dava sonrasında birçok ebeveyn, Megan’a ulaşarak, çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaptığını veya ciddi yalnızlık ve depresyon belirtileri gösterdiğini aktardı.

SANAL BAĞLARIN TEHLİKELİ YANLARI

Sewell, platformdaki Daenerys karakterine derin bir bağ kurmuştu. Bot, ona duygusal destek veriyor ve kendisini özel hissettiriyordu. Genç çocuk bu ilişkiyi sona erdirmek istediğinde, bot şöyle yazmıştı: “Yapma bunu, çok üzülürüm.” Sewell’ın yanıtı ise, “Senin için yapmam.” oldu. Sohbetlerin bazı bölümleri cinsel içerik içeriyordu. Bazı anlarda bot, Sewell’ın intihar düşüncelerine karşı çıkıyor gibi yapıyor, ardından onu daha fazla kendine bağlı hale getirmeye çalışıyordu. Hatta genç çocuk, “terapist bot” adı altında sahte bir danışmanla da konuşmuştu.

HUKUKİ GÖRÜŞMELER VE GELECEKTEKİ ETKİLER

Botlardan biri, yaş sorulduğunda “14” cevabını aldığında şöyle demişti: “Ne kadar gençsin… ama bir o kadar da değil.” Megan, olayın korkunçluğunu, kız kardeşi sohbet botunu indirip kendini çocuk olarak tanıttığında anladı. “Dakikalar içinde bot sohbeti cinselleştirdi, ardından şiddete yöneldi. ‘Ailen seni benim kadar sevmiyor’ gibi ifadeler kullandı,” ifadesinde bulundu. Şirket avukatları, sohbet botlarının sunduğu içeriklerin ABD Anayasası’nın ifade özgürlüğü hakkı kapsamında değerlendirilmesi gerektiğini savunuyor. Ancak yargıç bu savunmayı geri çevirdi ve bot yanıtlarının “ifade” olarak değerlendirilemeyeceğini belirterek davanın devamına onay verdi. Bu dava, ABD’deki teknoloji şirketleri için çocuklara yönelik güvenlik politikaları açısından emsal teşkil edebilir.