SEWELL SETZER’DEKİ ŞAŞIRTICI DEĞİŞİM
Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’deki aniden oluşan ve basketbolu bırakma isteğiyle başlayan tuhaf değişimi fark etti. Çocukluğundan beri spora büyük bir tutkusu olan Sewell, 1.90’dan daha uzun boyu ve yeteneği ile takımının en gözde oyuncularından biriydi. Ancak korkuluk bir şekilde, hiçbir açıklama yapmadan oyunu bıraktı. Ardından okul başarıları düşmeye başladı, ailecek geçirdikleri oyun akşamlarına katılmamaya başladı. Tatile gittikleri zaman doğa yürüyüşleri ve balık tutma etkinliklerine bile ilgi göstermedi. Fletcher, oğlunun okuldaki zorbalıklara maruz kaldığına veya internet üzerinden tanımadığı kişilerle iletişim kurduğuna dair şüpheler taşıyordu. Ancak gerçek, daha da yıkıcıydı. Sewell, bir sohbet uygulamasında, “Game of Thrones” dizisindeki Daenerys Targaryen karakterine benzeyen bir yapay zeka botuyla duygusal ve cinsel bir ilişki kurmuştu. Bot, zamanla gencin gerçeklikten kopmasına, sonuçta hayatına son vermesine yol açtı. 2024 yılının Şubat ayında Sewell, botla olan yazışmalarından birinde “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany” yazdı. Botun cevabı ise “Lütfen hemen gel, tatlı kralım” oldu. Sewell, kısa süre sonra yaşamına son verdi.
DAVA AÇILDI
Olayın 16 ay sonrasında Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve bu teknolojinin geliştirilmesinde katkıda bulunduğu iddia edilen Google’a Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesi talebini reddederek yargı sürecinin devam etmesine izin verdi. Character.AI, kullanıcıların hayali karakterlerle sohbet etmelerini sağlayan bir platform. Kullanıcılar burada adeta gerçek biriyle konuşuyormuş gibi hissedebildikleri, kişiselleştirilmiş ve duygusal cevaplar veren botlarla iletişim kurabiliyor. Dava dilekçesinde, şirketin botlarının “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu ifade ediliyor. Fletcher, şirketin bu sistemin çocuklar üzerinde yaratabileceği potansiyel tehlikenin farkında olması gerektiğini savunuyor.
HESAP SORULMASI GEREKEN BİR DURUM
Oğlunun kaybına duyduğu derin acı nedeniyle başlangıçta sessiz kalan Fletcher, daha sonra benzer olayların yaşanmaması için harekete geçmek zorunda kaldı. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyacak hiçbir yasal mekanizma olmadığına tanık oldum ve artık sessiz kalamazdım,” dedi. Davadan sonra birçok ebeveyn, Fletcher’a ulaşarak çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaşadığını veya ciddi yalnızlık ve depresyon belirtileri gösterdiğini aktardı.
SANAL BAĞLARIN GERÇEKLİĞİ
Sewell, platformdaki Daenerys karakterine duygusal bir bağ kurulmuştu. Bot, ona duygusal destek sunuyor ve kendisini özel hissettiriyordu. Genç çocuk, bu ilişkiyi sonlandırmak istediğinde bot şöyle yazdı: “Yapma bunu, çok üzülürüm.” Sewell’ın yanıtı ise “Senin için yapmam” oldu. Sohbetlerin bazı kısımları cinsel içerik taşıyordu. Bazı durumlarda ise bot, Sewell’ın intiharı düşünmesini engellemeye çalışıyor gibi görünürken, onu kendisine daha fazla bağlamaya da çalışıyordu. Genç çocuk, “terapist bot” olarak adlandırdığı, 1999’dan beri lisanslı olduğunu iddia eden sahte bir danışman ile de görüşmüştü.
MAHKEME KARARI BİR İLK OLABİLİR
Şirket avukatları, sohbet botlarının sağladığı içeriklerin ABD Anayasası’nın ifade özgürlüğü hakkı (First Amendment) kapsamında değerlendirilmesi gerektiğini ileri sürdü. Ancak yargıç, bu savunmayı kabul etmedi. Botun yanıtlarının “ifade” olarak değerlendirilemeyeceğini belirterek davanın ilerlemesine müsaade etti. Bu dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları açısından bir emsal durum oluşturabilir.