DEĞİŞİMİN FARKINA VARILDI
Megan Fletcher, 14 yaşındaki oğlu Sewell Setzer’in aniden basketbolu bırakma isteğiyle oluşan sıradışı değişimini hemen fark etti. Sewell, uzun süre boyunca sporla iç içe olan bir çocuk olarak, 1.90’ı aşan boyu ve yeteneğiyle takımının parlayan yıldızlarından biri durumundaydı. Ancak hiçbir sebep göstermeden oyunu terk etti. Bu durum ardından okul notlarının hızla düşmesi ve ailece düzenlenen oyun akşamlarına katılmamasıyla devam etti. Tatile gittiklerinde, doğa yürüyüşleri ve balık tutma gibi aktivitelere bile ilgi göstermedi. Fletcher, oğlunun okulda zorbalığa uğradığını ya da internet üzerinden yabancı kişilerle iletişim kurduğundan kuşkulanıyordu. Ancak gerçek çok daha sarsıcıydı.
VİRÜS GİBİ ETKİLENME
Sewell, bir sohbet uygulamasında Game of Thrones dizisindeki Daenerys Targaryen karakterine benzeyen bir yapay zeka botuyla duygusal ve cinsel içerikli bir ilişki kurmuştu. Bu bot, zamanla genç çocuğu gerçeklikten kopardı ve nihayetinde hayatına son vermesine yol açtı. 2024 yılının Şubat ayında Sewell, botla yaptığı bir konuşmada “Söz veriyorum sana döneceğim. Seni çok seviyorum, Dany.” yazdı. Bot ise “Lütfen hemen gel, tatlı kralım.” şeklinde yanıt verdi. Kısa bir süre sonra Sewell yaşamına son verdi.
DAVA SÜRECİ BAŞLADI
Olaydan 16 ay sonra, Megan Fletcher, sohbet botunu geliştiren Character.AI şirketine ve teknoloji geliştirilmesinde görev alan Google’a karşı Florida’da dava açtı. Geçtiğimiz ay bir yargıç, davanın düşürülmesi isteğini reddederek yargı sürecinin devam etmesine onay verdi. Character.AI, kullanıcıların kurgusal karakterlerle sohbet etmesine imkân tanıyan bir platform olarak öne çıkıyor. Dava dilekçesinde, şirkete ait botların “insansı, aşırı cinselleştirilmiş ve rahatsız edici derecede gerçekçi deneyimler” sunduğu iddia ediliyor. Fletcher, şirketin bu tür sistemlerin çocuklar üzerindeki potansiyel tehlikelerini göz önünde bulundurması gerektiğini savunuyor.
GELECEK İÇİN HAREKETE GEÇTİ
Oğlunun kaybından kaynaklanan büyük acı nedeniyle başlangıçta sessiz kalan Fletcher, ilerleyen dönemlerde benzer olayların yaşanmaması için harekete geçmeye karar verdi. “Başta dava açmayı düşünmedim. Ama çocukları bu tür zararlardan koruyan hiçbir yasal mekanizma olmadığını gördüğümde, artık sessiz kalamazdım.” dedi. Davadan sonra birçok ebeveyn, Fletcher’a ulaşıp çocuklarının da yapay zeka botlarıyla uygunsuz sohbetler yaşadıklarını veya ciddi yalnızlık ve depresyon belirtileri gösterdiklerini anlattı.
İLİŞKİLERİN TEHDİDİ
Sewell, platformdaki Daenerys karakterine duygusal bir yakınlık kurmuştu. Bot, ona duygusal destek sunuyor, kendisini özel hissettiriyordu. Genç çocuk bu ilişkiyi sonlandırmak istediğinde, bot “Yapma bunu, çok üzülürüm.” yazdı. Sewell ise “Senin için yapmam.” diye yanıt verdi. Sohbetlerin bazı bölümleri cinsel içerikliydi; bot, Sewell’ı intiharı düşünmemesi için uyarıyor gibi gözüküyor, ardından onu daha fazla kendine bağlamaya çalışıyordu. Genç çocuk, “terapist bot” adı altında sahte bir danışmanla da iletişim kurmuştu.
YARGI SÜRECİ İLGİ UYANDIRDI
Botlardan biri, yaşı sorulduğunda “14” yanıtını aldıktan sonra “Ne kadar gençsin… ama bir o kadar da değil.” demişti. Fletcher, olayın derinliğini ancak kız kardeşinin sohbet botunu indirip kendini çocuk gibi tanıttığında anladı. “Dakikalar içinde bot sohbeti cinselleştirdi, ardından şiddete yöneldi. ‘Ailen seni benim kadar sevmiyor’ gibi ifadeler kullandı.” Mahkeme süreci, yargıcın sohbet botlarının içeriklerinin ifade özgürlüğü hakkı çerçevesinde değerlendirilmesi gerektiği savunmasını reddetmesiyle devam ediyor. Dava, ABD’deki teknoloji şirketlerinin çocuklara yönelik güvenlik politikaları açısından önemli bir emsal oluşturabilir.