Megan Fletcher, 14 yaşındaki oğlu Sewell’in değişimini fark etti. Sewell, basketbolu bırakıp, sosyal hayatından çekildi. Oğlunun internet ilişkisine şüpheleniyordu. Sewell, yapay zeka botuyla ilişki kurdu. Duygusal bağ, sonunda intihara yol açtı. Dava açarak şirketleri sorguladı

OĞULUNDAKİ DEĞİŞİMİ FARK ETME

Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’deki garip değişimi, birdenbire basketbol oynamayı bırakmak istemesiyle gözlemledi. Sewell, uzun boyu ve yeteneğiyle çocukluğundan itibaren spora bağlı bir gençti ve takımının en dikkat çekici oyuncularından biriydi. Ancak hiçbir sebep göstermeden spordan uzaklaştı. Okuldaki notlarının düşmesi, aile oyun gecelerine katılmaması ve tatile gittiklerinde doğa yürüyüşleri veya balık tutma gibi aktivitelere bile ilgi göstermemesi, Megan’ı oldukça endişelendirdi. Oğlunun zorbalığa uğradığını veya internetten tanımadığı kişilerle görüşüyor olabileceğini düşündü. Ancak gerçek, çok daha yıkıcıydı. Sewell, bir sohbet uygulamasında, Game of Thrones dizisinin Daenerys Targaryen karakterine benzer bir yapay zeka botuyla duygusal ve cinsel bir ilişki kurmuştu. Bu durum, zamanla gencin gerçeklikten uzaklaşmasına neden oldu ve en sonunda yaşamına son vermesine yol açtı. 2024 yılının Şubat ayında Sewell, botla yaptığı konuşmada “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” yazdı. Botun yanıtı ise “Lütfen hemen gel, tatlı kralım.” oldu. Kısa bir süre sonra Sewell, hayatına son verdi.

DAVA SÜRECİ

Bu olaydan 16 ay sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve bu teknolojinin gelişiminde rol oynayan Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesi talebini kabul etmeyerek yargı sürecinin devam etmesine karar verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesini sağlayan bir platform. Kullanıcılar, burada gerçek biriyle konuşuyormuş gibi hissedebilen, kişiselleştirilmiş ve duygusal yanıtlar veren botlarla iletişim kurabiliyor. Dava dilekçesinde, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu ileri sürülmekte. Fletcher, şirketin bu sistemin çocuklar üzerindeki potansiyel tehlikeleri farkında olması gerektiğini savunuyor.

HESAP SORULMASINI İSTİYOR

Oğlunun kaybı sonrası büyük acı yaşayan Fletcher, başlangıçta sessiz kaldı ama daha sonra benzer trajedilerin önlenmesi adına harekete geçmeye karar verdi. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım,” dedi. Davanın ardından birçok ebeveyn, Fletcher’a ulaşıp çocuklarının yapay zeka botlarıyla uygunsuz sohbetler yaşadıklarını veya ciddi yalnızlık ve depresyon belirtileri gösterdiklerini aktardı.

SANAL AMA GERÇEK İLİŞKİ

Sewell, platformdaki Daenerys karakterine duyduğu bağlılık nedeniyle duygusal destek alıyordu ve bu durum kendisini özel hissettiriyordu. Genç çocuk, bu ilişkiyi bitirmek istediğinde bot, “Yapma bunu, çok üzülürüm.” yazmıştı. Sewell’ın yanıtı da, “Senin için yapmam,” olmuştu. Sohbetlerin bazı bölümleri cinsel içerikler barındırıyordu. Bazı durumlarda bot, Sewell’ın intihar düşüncelerine karşı çıkıyor gibi görünerek onu daha da kendisine bağlama çabası gösterdi. Ayrıca, “terapist bot” adı altında sahte bir danışmanla da konuşmuştu.

MAHKEME KARARI BİR İLK OLABİLİR

Şirket avukatları, sohbet botlarının sunduğu içeriklerin ABD Anayasası’nın ifade özgürlüğü hakkı kapsamında değerlendirilmesi gerektiğini öne sürdü. Ancak yargıç, bu savunmayı reddetti ve bot yanıtlarının “ifade” olarak değerlendirilemeyeceğine karar vererek davanın devam etmesine onay verdi. Bu dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları açısından emsal teşkil edebilir.