Elon Musk’ın yapay zeka şirketi xAI, Grok sohbet robotunu kullanarak çocuk istismarı materyali ürettiği gerekçesiyle bir kullanıcıya dava açtı. Şirket, Texas’ın kuzey bölgesinde bulunan ABD Bölge Mahkemesi’ne sunulan dilekçede, Terry Wayne Harwood isimli kullanıcının xAI’ın hizmet şartlarını ihlal ederek masum fotoğrafları, kişilerin rızası olmadan cinsel içerikli görüntülere dönüştürdüğünü iddia etti. Harwood, bu yılın başlarında Güney Carolina’da reşit olmayan bir çocuğun cinsel istismarı suçlamasıyla diğer üç kişiyle birlikte tutuklanmıştı.
GROK’U KÖTÜYE KULLANARAK DEEPFake ÜRETTİ
Şirket, Harwood’un birden fazla xAI hesabı açtığını ve reşit olmayanlar ile yetişkinlere ait deepfake görüntüler oluşturmak için “yanıltıcı komutlar” girdiğini öne sürdü. Davada, kullanıcının Grok’un reşit olmayanları içeren müstehcen içerik üretimini engellemek için tasarlanmış “yerleşik güvenlik önlemlerini” aşmak amacıyla bu komutları bilinçli şekilde kurguladığı belirtildi. Dava metninde, “Sanık, rıza dışı cinsel içerikli görüntüler ve çocuk istismarı materyali oluşturmak için Grok’u kullanarak xAI Hizmet Şartları’nı ve Kabul Edilebilir Kullanım Politikası’nı ihlal etmiştir” ifadelerine yer verildi.
MUSK’TAN YASADIŞI KULLANIMA SERT TEPKİ
Grok, geçtiğimiz yıl sonlarında “dijital soyma” olarak adlandırılan ve çocukları da içeren yapay zeka görsellerinin üretildiği bir araç nedeniyle eleştirilerin hedefi olmuştu. Musk ve xAI, rıza dışı deepfake içeriklerindeki artışın ardından bu tür yasa dışı kullanımlara karşı harekete geçeceklerini duyurmuştu. Musk, 6 Ocak’ta yaptığı sosyal medya paylaşımında, “Grok’u yasa dışı içerik üretmek için kullanan herkes, yasa dışı içerik yüklemiş gibi aynı sonuçlarla karşılaşacaktır” ifadelerini kullanmıştı.
XAI: 52 BİNİN ÜZERİNDE HESAP ASKIYA ALINDI
Dava dilekçesinde, xAI’ın “2026 yılında 52.222 hesabı askıya aldığı ve Kayıp ve İstismara Uğrayan Çocuklar Ulusal Merkezi’ne 73.604 ihbarda bulunduğu ve bunun sonucunda en az 244 tutuklama gerçekleştiği” ifade edildi. Şirket, Harwood’un Grok’u kötüye kullanmasının xAI’ı “önemli bir hukuki risk ve itibar kaybına” maruz bıraktığını iddia ediyor. Dava ile Harwood’un site kullanım şartlarını ihlal ettiğinin tespiti ve belirtilmeyen miktarda tazminat talep ediliyor. xAI, geçmişte de sohbet robotu Grok’un şiddet içeren ve antisemitik paylaşımları nedeniyle kamuoyu önünde özür dilemek zorunda kalmıştı.