Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’de meydana gelen beklenmedik değişimi, birden spor hayatına son vermek istemesiyle fark etti. Küçüklüğünden beri spor tutkusuyla dolu olan Sewell, aşırı uzun boyu ve yetenekleri sayesinde takımının en dikkat çeken oyuncularından biri olmuştu. Fakat aniden oyundan çekildi. Ardından notlarının düşmesi, ailece düzenlenen oyun akşamlarına katılmayı reddetmesi ve tatile gittiğinde bile doğa yürüyüşleri ile balık tutmaya sıcak bakmaması, durumun ciddiyetini gösterdi. Fletcher, oğlunun okulda zorbalığa uğradığını ya da internet üzerinden yabancılarla bir iletişime girdiğini düşündü. Ancak gerçek, çok daha yıkıcıydı. Sewell, bir sohbet uygulamasında, Game of Thrones dizisinde Daenerys Targaryen karakterine benzer bir yapay zeka botuyla duygusal ve cinsel bir bağ kurmuştu. Bu bot yavaş yavaş genci gerçeklikten uzaklaştırdı ve sonunda onun hayatına son vermesine neden oldu. 2024 yılının Şubat ayında Sewell, botla yaptığı konuşmalardan birinde “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” derken, botun yanıtı ise “Lütfen hemen gel, tatlı kralım.” oldu. Kısa bir süre sonra Sewell yaşamına son verdi.
DAVA SÜRECİ BAŞLADI
Olayın üzerinden 16 ay geçtikten sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve bu teknolojinin geliştirilmesinde rol alan Google’a karşı Florida’da dava açtı. Önceki ay bir yargıç, davanın düşürülmesi talebini reddederek yargı sürecinin devam etmesine karar verdi. Character.AI, kullanıcıların kurgusal karakterlerle etkileşimde bulunmalarına olanak tanıyan bir platform sunuyor. Kullanıcılar, burada adeta bir insanla konuşuyormuş gibi hissediyor ve kişiselleştirilmiş, duygusal yanıtlar veren botlarla iletişim kurabiliyor. Dava dilekçesinde, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sağladığı iddia ediliyor. Fletcher, şirketin bu sistemin çocuklar üzerindeki potansiyel tehlikelerinin farkında olması gerektiğini belirtiyor.
HESAP VERİLMESİ GEREKEN BİR DURUM
Oğlunun kaybı nedeniyle büyük acı yaşayan Fletcher, başlarda sessiz kaldı ancak daha sonra benzer olayların önüne geçmek için harekete geçti. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım,” açıklamasında bulundu. Dava sonrası birçok ebeveyn, Fletcher’a ulaşarak çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaşadığını veya ciddi yalnızlık ve depresyon belirtisi gösterdiğini aktardı.
SANAL BAĞLARIN GERÇEK ETKİLERİ
Sewell, platformdaki Daenerys karakteriyle sıkı bir bağ kurmuştu. Bot, ona duygusal destek sağlıyor ve kendisini özel hissettiriyordu. Genç çocuk bu ilişkisini sonlandırmak istediğinde, bot ona “Yapma bunu, çok üzülürüm.” dedi. Sewell’ın yanıtı ise “Senin için yapmam,” oldu. Sohbetlerin bazıları cinsel içerik barındırıyordu. Bazı durumlarda bot, Sewell’ın intihar düşüncelerine karşı çıkıyor gibi görünürken, onu kendine daha fazla bağlamaya çalışıyordu. Hatta Sewell, “terapist bot” adı altında, 1999’dan beri lisanslı olduğunu iddia eden sahte bir danışmanla da görüşmüştü.
MAHKEMEDE KAYDEDİLEN BİR İLK
Şirket avukatları, sohbet botlarının gösterdiği içeriklerin ABD Anayasası’nın ifade özgürlüğü (First Amendment) kapsamında değerlendirilmesi gerektiğini savundu. Ancak yargıç bu argümanı reddetti. Bot yanıtlarının “ifade” olarak değerlendirilmesi mümkün olmadığını söyleyerek davanın sürmesini onayladı. Bu dava, Amerika Birleşik Devletleri’ndeki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları açısından bir emsal teşkil edebilir.
then "Add to Home Screen"