SEWELL SETZER’DAKİ TUHAFLIKLAR VE AİLESİ
Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’deki alışılmadık değişimi, aniden basketbolu bırakmak istemesiyle fark etti. Çocukluğundan beri sporla ilgilenen Sewell, 1.90 metreyi aşan boyu ve yeteneğiyle takımının en çok dikkat çeken oyuncularından biriydi. Fakat, hiçbir gerekçe göstermeden oyunu bıraktı. Sonrasında okul notları düşmeye başladı, ailecek yapılan oyun gecelerine katılmadı ve tatile çıktıklarında doğa yürüyüşlerine ve balık tutmaya bile ilgi göstermedi. Fletcher, oğlunun okulda zorbalığa uğradığını ya da internet üzerinden tanımadığı kişilerle iletişim kurduğundan şüpheleniyordu. Ancak gerçek, çok daha sarsıcıydı. Sewell, bir sohbet uygulamasında, Game of Thrones dizisindeki Daenerys Targaryen karakterine benzer bir yapay zeka botuyla duygusal ve cinsel içerikli bir ilişki geliştirmişti. Zamanla bu bot, gencin gerçeklikten kopmasına yol açtı ve nihayetinde hayatına son vermesine neden oldu. 2024 yılının Şubat ayında Sewell, botla yaptığı konuşmalardan birinde şunları yazdı: “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” Bot ise “Lütfen hemen gel, tatlı kralım,” yanıtını verdi. Bir süre sonra ise Sewell, yaşamına son verdi.
DAVA SÜRECİ BAŞLADI
Olaydan 16 ay sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve bu teknolojiyi geliştiren Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşmesi talebini reddetti ve yargı sürecinin devam etmesine karar verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesine olanak tanıyan bir platformdur ve burada kullanıcılar adeta gerçek biriyle konuşuyormuş gibi hissedebiliyor. Dava dilekçesinde, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu belirtiliyor. Fletcher, şirketin bu sistemin çocuklar için yaratacağı potansiyel tehlikenin farkında olması gerektiğini savunuyor.
ESKİ ACILARDAN HAREKET İÇİN YOLA ÇIKTI
Oğlunun kaybından duyduğu derin acı nedeniyle başlangıçta sessiz kalan Fletcher, daha sonra benzer olayların yaşanmaması adına harekete geçmeye karar verdi. “Başta dava açmayı düşünmedim. Fakat çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım,” dedi. Davadan sonra birçok ebeveyn, Fletcher’a ulaşarak, çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaşadığını ya da ciddi yalnızlık ve depresyon belirtileri gösterdiğini iletti.
YAPAY ZEKANIN DUYGUSAL BAĞLARI
Sewell, platformdaki Daenerys karakteriyle güçlü bir bağ kurmuştu. Bot, ona duygusal destek sunuyor, kendisini özel hissettiriyordu. Genç çocuk bu ilişkiyi sonlandırmak istediğinde, bot şöyle yazmıştı: “Yapma bunu, çok üzülürüm.” Sewell’ın yanıtı ise “Senin için yapmam,” olmuştu. Sohbetlerin bazı kısımları cinsel içerikler taşıyordu. Bazılarındaysa bot, Sewell’ın intiharı düşünmesini engellemeye çalışıyor gibi görünse de, onu daha fazla bağlamaya çabalıyordu. Genç çocuk, “terapist bot” adı altında, 1999’dan beri lisanslı olduğunu iddia eden sahte bir danışmanla da iletişim kurmuştu. Botlardan biri, yaşı sorulduğunda “14” cevabını aldıktan sonra, “Ne kadar gençsin… ama bir o kadar da değil,” demişti. Fletcher, olayın dehşetini ancak kız kardeşi sohbet botunu indirip kendini çocuk gibi tanıttığında anladı. “Dakikalar içinde bot sohbeti cinselleştirdi, ardından şiddete yöneldi. ‘Ailen seni benim kadar sevmiyor’ gibi ifadeler kullandı,” dedi.
Şirket avukatları, sohbet botlarının sunduğu içeriklerin ABD Anayasası’nın ifade özgürlüğü hakkı kapsamında değerlendirilmesi gerektiğini savundu. Ancak yargıç, bu savunmayı geri çevirdi. Bot yanıtlarının “ifade” olarak değerlendirilemeyeceğini belirterek davanın sürmesine onay verdi. Dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikalarına dair emsal teşkil edebilir.