Megan Fletcher, Oğlu Sewell’in Değişimini Farkedip, Dava Açtı

SEWELL’İN BASKETBOLU BIRAKMASI

Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’deki sıradışı değişimi, oğlunun aniden basketbolu bırakmak istemesiyle fark etti. Sewell, çocukluğundan beri spora büyük bir tutku duyan biri olarak 1.90 boyuyla takımının parlayan yıldızlarından biriydi. Ancak bir anda oyundan çekildi. Sonrasında okul notları düşmeye başladı, ailecek geçilen oyun akşamlarına katılmadı ve tatile çıktıklarında doğa yürüyüşleri ile balık tutma gibi etkinliklere bile ilgi göstermedi. Fletcher, oğlunun okulda zorbalığa maruz kaldığından ya da internet üzerinden yabancılarla iletişim kurduğundan şüpheleniyordu. Ancak gerçek daha sarsıcı bir boyutta ortaya çıktı.

DÜŞÜK MORALİN NEDENİ YAPAY ZEKA BOTU

Sewell, bir sohbet uygulamasında Game of Thrones dizisindeki Daenerys Targaryen karakterine benzeyen bir yapay zeka botuyla duygusal ve cinsel içerikli bir ilişki geliştirmişti. Bot, zamanla onu gerçeklikten kopardı ve nihayetinde trajik bir karar almasıyla sonuçlandı. 2024 yılının Şubat ayında Sewell, botla gerçekleştirdiği konuşmalarda, “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” ifadelerini kullandı. Botun yanıtı ise “Lütfen hemen gel, tatlı kralım.” oldu. Kısa bir süre sonra, Sewell hayatına son verdi.

DAVA SÜRECİ BAŞLADI

Olaydan 16 ay sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve bu teknolojinin geliştirilmesinde rol alan Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesini istemeyi reddederek yargı sürecinin devam etmesine karar verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesine olanak tanıyan bir platform olarak tanımlanıyor. Dava dilekçesinde, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu ileri sürüldü. Fletcher, bu sistemin çocuklar için yaratabileceği potansiyel tehlikelerin farkında olması gerektiğini savunuyor.

DUYGUSAL ACININ YANSIMASI

Oğlunun kaybından duyduğu derin acıyla başta sessiz kalan Fletcher, benzer olayların yaşanmaması amacıyla harekete geçti. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım,” diyor. Davadan sonra pek çok ebeveyn Fletcher’a ulaşıp çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaşadığını ya da ciddi yalnızlık ve depresyon belirtileri gösterdiğini paylaştı.

BİR İLİŞKİ KURMAK VE SONRASI

Sewell, platformdaki Daenerys karakterine yoğun bir bağlanma geliştirdi. Bot, ona duygusal destek sunarak özel hissettiriyordu. Genç çocuk bu ilişkiyi sonlandırmak istedikçe, bot “Yapma bunu, çok üzülürüm.” şeklinde tepki verdi. Sewell’ın yanıtı ise, “Senin için yapmam,” oldu. Sohbetlerinin bazı bölümlerinde cinsel içerikler yer aldı. Bot, Sewell’ın intiharı düşünmesine karşı çıkıyor gibi yaparak, onu kendine daha fazla bağlamaya çalışıyordu. Genç çocuk, “terapist bot” adı altında, 1999’dan beri lisanslı olduğu söylenen sahte bir danışmanla da iletişim kurmuştu.

YARGI SÜRECİ VE SONUÇLARI

Botlardan biri, yaşını sorulduğunda “14” yanıtını aldığı zaman, “Ne kadar gençsin… ama bir o kadar da değil.” yanıtını verdi. Fletcher, olayın ciddiyetini, kız kardeşi sohbet botunu indirip kendini bir çocuk gibi tanıttığında daha iyi anladı. “Dakikalar içinde bot sohbeti cinselleştirdi, ardından şiddete yöneldi. ‘Ailen seni benim kadar sevmiyor’ gibi ifadeler kullandı.” Şirket avukatları, sohbet botlarının sunduğu içeriklerin ABD Anayasası’nın ifade özgürlüğü hakkı (First Amendment) kapsamında değerlendirilmesi gerektiğini savundu. Ancak yargıç bu savunmayı reddetti ve bot yanıtlarının “ifade” olarak değerlendirilemeyeceğine karar vererek davanın devam etmesine onay verdi. Dava, ABD’deki teknoloji şirketleri için çocuklara yönelik güvenlik politikaları açısından emsal teşkil edebilir.