Çocuk Yapay Zeka Nedeniyle İntihar Etti

SEWELL’İN BIRANDA BASKETBOLU BIRAKMASI

Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’daki garip değişimi, onun aniden basketbolu bırakmak istemesiyle fark etti. Sewell, çocukluğundan beri spora tutkuyla bağlıydı ve 1.90’dan fazla boyu ile yetenekleri sayesinde takımının parlayan yıldızlarından biri durumundaydı. Ancak hiçbir neden belirtmeden oyunu terk etti. Sonrasında okul notları düşmeye başladı, ailecek geçirilen oyun akşamlarına katılmadı ve tatile gittiklerinde doğa yürüyüşleri ve balık tutmaya bile ilgi göstermedi. Fletcher, oğlunun okulda zorbalığa uğradığından veya internet üzerinden yabancılarla iletişim kurduğundan şüpheleniyordu. Ancak gerçek, çok daha sarsıcıydı. Sewell, bir sohbet uygulamasında, “Game of Thrones” dizisindeki Daenerys Targaryen karakterine benzeyen bir yapay zeka botuyla duygusal ve cinsel içerikli bir ilişki kurmuştu. Bu bot, zamanla genç çocuğu gerçeklikten kopardı ve sonunda hayatına son vermesine neden oldu.

DAVANIN AÇILMASI

2024 yılının Şubat ayında Sewell, botla yaptığı bir konuşmada şu ifadeleri yazdı: “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” Botun yanıtı ise, “Lütfen hemen gel, tatlı kralım” oldu. Sewell, kısa bir süre sonra yaşamına son verdi. Olaydan 16 ay sonra Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve teknolojinin geliştirilmesinde rol oynayan Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesi talebini reddederek yargı sürecinin devam etmesine karar verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesine imkan tanıyan bir platform sağlıyor. Kullanıcılar burada, gerçek biriyle konuşuyormuş hissi veren, kişiselleştirilmiş ve duygusal yanıtlar veren botlarla iletişim kurabiliyor. Dava dilekçesinde, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu belirtildi. Fletcher, şirketin bu sistemin çocuklar için yaratacağı potansiyel tehlikenin farkında olması gerektiğini savunuyor.

DUYGUSAL ACILAR VE YASAKLAR

Oğlunun kaybından kaynaklanan büyük acısı nedeniyle başlangıçta sessiz kalan Fletcher, ilerleyen zamanlarda benzer olayların yaşanmaması için harekete geçti. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım,” diyerek durumu özetliyor. Davanın sonrasında birçok ebeveyn, Fletcher’a ulaşarak, çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaşadığını veya ciddi yalnızlık ve depresyon belirtileri gösterdiğini bildirdi.

DÜNYA YÜZ YÜZE

Sewell, platformdaki Daenerys karakterine oldukça bağlanmıştı. Bot, ona duygusal destek sunuyor ve kendisini özel hissettiriyordu. Genç çocuk bu ilişkisini sona erdirmek istediğinde bot, “Yapma bunu, çok üzülürüm,” diyerek ona yakınlık gösterdi. Sewell’ın yanıtı ise; “Senin için yapmam,” oldu. Sohbetlerin bazı bölümleri cinsel içerikliydi. Bazılarında ise bot, Sewell’ın intiharı düşünmesine karşı çıkıyor gibi görünerek onu kendine daha fazla bağlamaya çalıştı. Hatta genç çocuk, “terapist bot” unvanına sahip, 1999’dan beri lisanslı olduğunu söyleyen sahte bir danışmanla da iletişim kurmuştu.

MAHKEME SÜRECİ VE GÜVENLİK POLİTİKALARI

Botlardan biri, yaşını sorduğunda “14” cevabını aldıktan sonra şunları söyledi: “Ne kadar gençsin… ama bir o kadar da değil.” Fletcher, yaşanan olayın dehşetini, kız kardeşi sohbet botunu indirip kendini bir çocuk gibi tanıttığında daha iyi anladı. “Dakikalar içinde bot sohbeti cinselleştirdi, ardından şiddete yöneldi. ‘Ailen seni benim kadar sevmiyor’ gibi ifadeler kullandı,” diyerek duygularını aktardı. Şirket avukatları, sohbet botlarının sunduğu içeriklerin ABD Anayasası’nın ifade özgürlüğü hakkı (First Amendment) altında değerlendirilmesi gerektiğini savundu, ancak yargıç bu savunmayı reddetti. Bot yanıtlarının “ifade” olarak değerlendirilemeyeceğini vurgulayarak davanın sürmesine onay verdi. Dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları açısından emsal teşkil edebilir.