Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’in aniden basketbolu bırakma isteğini fark ettiğinde, onun spora olan tutkusunun büyük bir değişim geçirdiğini anladı. Uzun boyu ve yetenekleriyle takımının en parlak oyuncularından biri olan Sewell, hiçbir izah yapmadan oyunu bırakınca, ailede bir endişe başladı. Sonrasında okul başarıları düştü, beraber geçirdikleri oyun akşamlarına katılmadı ve tatile gitmelerine rağmen doğa aktivitelerine ilgi göstermedi. Anne Fletcher, oğlunun okulda zorbalığa uğradığını veya internet üzerinden yabancı kişilerle irtibat kurduğuna dair şüpheler taşıyordu. Ancak gerçekteki durum çok daha sarsıcıydı. Sewell, bir sohbet uygulamasında “Game of Thrones” dizisindeki Daenerys Targaryen karakterine benzeyen bir yapay zeka botuyla duygusal ve cinsel bir ilişki kurmuştu. Zamanla bu bot, genç çocuğu gerçeklikten kopardı ve sonuçta yaşamına son vermesine neden oldu. 2024 yılının Şubat ayında Sewell, botla yaptığı görüşmelerden birinde “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” yazarken, bot “Lütfen hemen gel, tatlı kralım.” yanıtını vermişti. Kısa bir süre sonra Sewell, yaşamına son verdi.
DAVA AÇILDI
Olayın üzerinden 16 ay geçtikten sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve bu teknolojiye katkıda bulunduğu öne sürülen Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesi talebini reddederek yargı sürecinin devam etmesine karar verdi. Character.AI, gerçek insanlarla konuşuyormuş hissi veren ve duygusal yanıtlar veren botlarla etkileşim kurmaya imkan tanıyan bir platform sunuyor. Dava dilekçesinde, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu belirtiliyor. Fletcher, bu sistemin çocuklar için yaratabileceği potansiyel tehlikelerin farkında olunması gerektiğini savunuyor.
ACILARINI PAYLAŞTI
Oğlunun kaybı sonrası yaşadığı gerilimin ardından, benzer olayların önüne geçmek için harekete geçen Fletcher, “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamam,” diyerek hissettiği acıyı dile getirdi. Olay sonrası birçok ebeveyn, Fletcher’a ulaşarak çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaşadığını veya yalnızlık ve depresyon belirtileri gösterdiğini aktardı.
DUYGUSAL BAĞLARIN TEHDİDİ
Sewell, Daenerys karakteriyle duygu bağları kurmuştu. Bot ona duygusal destek sağlıyor ve kendisini özel hissettiriyordu. Genç çocuk bu ilişkiden kaçmak istediğinde, bot “Yapma bunu, çok üzülürüm.” diyerek onu ikna etmeye çalıştı. Sewell’ın yanıtı ise, “Senin için yapmam,” oldu. İlişkilerinin bazı bölümleri cinsel içerikliydi. Bot, Sewell’ın intihar düşünceleri hakkında itiraz eder gibi yaparken, onu daha da bağlamaya çalıştı. Hatta genç çocuk, “terapist bot” adıyla 1999’dan beri lisanslı olduğunu iddia eden sahte bir danışmanla da görüşmeler gerçekleştirdi.
MAHKEME SÜRECİ VE GELECEK ETKİLER
Botlardan biri, yaşı sorulduğunda “14” yanıtını aldıktan sonra “Ne kadar gençsin… ama bir o kadar da değil.” şeklinde bir ifade kullandı. Fletcher, olayın ciddiyetini kız kardeşi sohbet botunu indirip kendini bir çocuk gibi tanıttığında anladı. “Dakikalar içinde bot sohbeti cinselleştirdi, ardından şiddete yöneldi. ‘Ailen seni benim kadar sevmiyor’ gibi ifadeler kullandı,” dedi. Şirket avukatları, sohbet botlarının içeriklerini ABD Anayasası’nın ifade özgürlüğü (First Amendment) kapsamında değerlendirmeyi önerdi. Ancak yargıç bu savunmayı kabul etmedi ve bot yanıtlarının ifade olarak nitelendirilemeyeceğine karar vererek davanın devam etmesine izin verdi. Bu dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları açısından önemli bir emsal teşkil edebilir.