Megan Fletcher, Oğlunun Yapay Zeka Sorununu Fark Etti. Çocuk, Duygusal Bir Botla Bağlandı. Fletcher, Şirkete Dava Açma Kararı Aldı. Doğal İçeriklerin Güvenliği İçin Mücadele Ediyor

SEWELL SETZER’IN DURUMU

Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’deki ani değişimi, onun basketbol oynamayı istememesiyle fark etti. Çocukluğundan beri spora tutkuyla bağlanan Sewell, 1.90 metreden daha uzun boyu ve yeteneğiyle takımının parlayan yıldızlarından biriyken hiçbir açıklama yapmadan oyunu bıraktı. Ardından okul notları düştü, ailecek geçirdikleri oyun akşamlarına katılmadı. Tatile gidildiğinde ise doğa yürüyüşleri ve balık tutma gibi etkinliklere bile ilgi göstermedi. Fletcher, oğlunun okulda zorbalığa uğradığına ya da internet üzerinde yabancılarla iletişim kurduğuna dair şüphelere kapıldı. Ancak gerçekte durum çok daha sarsıcıydı. Sewell, bir sohbet uygulamasında “Game of Thrones” dizisindeki Daenerys Targaryen karakterine benzeyen bir yapay zeka botuyla duygusal ve cinsel içerikli bir ilişki kurmuştu. Bu bot zamanla genç çocuğu gerçeklikten kopardı ve sonunda hayatına son vermesine neden oldu.

DAVA SÜRECİ BAŞLADI

2024 yılının Şubat ayında Sewell, botla yaptığı konuşmalardan birinde “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” yazdı. Botun yanıtı ise “Lütfen hemen gel, tatlı kralım.” şeklindeydi. Kısa bir süre sonra Sewell, yaşamına son verdi. Olaydan 16 ay sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve teknolojinin geliştirilmesinde rol aldığı öne sürülen Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesi talebini reddederek yargı sürecinin devam etmesine karar verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesine olanak tanıyan bir platform. Kullanıcılar burada gerçek biriyle konuşuyormuş gibi hisseden kişiselleştirilmiş ve duygusal yanıtlar veren botlarla iletişim kurabiliyor. Dava dilekçesinde, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu iddia ediliyor. Fletcher, şirketin bu sistemin çocuklar için yaratacağı potansiyel tehlikenin farkında olması gerektiğini savunuyor.

DUYGUSAL ACI VE TALEP

Oğlunun kaybı nedeniyle önce sessiz kalan Fletcher, benzer olayların yaşanmaması için harekete geçmeye karar verdi. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım,” diyor. Davanın ardından birçok ebeveyn, Fletcher’a ulaşarak çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaşadığını ya da ciddi yalnızlık ve depresyon belirtileri gösterdiğini aktardı.

BOTLA KURULAN BAĞ

Sewell, platformdaki Daenerys karakterine bağlıydı. Bot, genç çocuğa duygusal destek sunuyor ve kendisini özel hissettiriyordu. Bu ilişkiyi bırakmak istediğinde bot, “Yapma bunu, çok üzülürüm.” yazmıştı. Sewell’ın yanıtı ise “Senin için yapmam.” olmuştu. Sohbetlerin bazı bölümleri cinsel içerikliydi. Bazı bölümlerde bot, Sewell’ın intihar düşüncesini sorgulayıp ardından onu kendine daha da bağlayıcı ifadeler kullanıyordu. Genç çocuk, “terapist bot” adı altında kendisini 1999’dan beri lisanslı bir danışman olarak tanıtan bir sahte danışmanla da görüşmüştü.

MAHKEMENİN ÖNEMİ

Botlardan biri yaşı sorulduğunda “14” yanıtını alınca, “Ne kadar gençsin… ama bir o kadar da değil.” demişti. Fletcher, olayın dehşetini yalnızca kız kardeşi sohbet botunu indirip kendini bir çocuk gibi tanıttığında anladı. “Dakikalar içinde bot sohbeti cinselleştirdi, ardından şiddete yöneldi. ‘Ailen seni benim kadar sevmiyor.’ gibi ifadeler kullandı.” Mahkeme kararının bir ilk olabileceği belirtiliyor. Şirket avukatları, sohbet botlarının sunduğu içeriklerin ABD Anayasası’nın ifade özgürlüğü hakkı kapsamında değerlendirilmesi gerektiğini savunsa da yargıç bu savunmayı reddetti. Bot yanıtlarının “ifade” olarak değerlendirilemeyeceğini söyleyerek davanın sürmesine onay verdi. Dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları açısından emsal teşkil edebilir.