New York’ta yapay zeka sohbet uygulaması Character.ai, ergenlerde ruh sağlığı sorunlarına ve intihar vakalarına katkıda bulunduğu iddialarıyla karşı karşıya kaldıktan sonra, Bölüm 11 iflas başvurusunda bulundu. Kullanıcıların ünlüler ve kurgusal karakterler gibi birçok sohbet robotuyla mesajlaşmasını sağlayan uygulama, insan benzeri diyaloglar kurarak yanıtlar veriyor. Şirket, yıl sonuna kadar mahkeme gözetiminde bir satış süreci başlatmayı ve platformun uzun vadeli olarak faaliyet göstermesini sağlamayı planlıyor.
DISNEY'İN TEKLİFİ
Disney, şirketin varlıkları için teklif veren ilk isimlerden biri oldu ve bazı fikri mülkiyet hakları için 20 milyon dolar ödemeyi kabul etti. Ayrıca, eski Character.ai çalışanları aracılığıyla geçiş hizmetleri sunacak. Bu anlaşma, iflas süreci boyunca Character.ai’nin platformunu çalışır durumda tutmasına olanak sağlayacak. Geçtiğimiz yıl güvenlik konularında şirketin itibarını artırmak amacıyla CEO olarak atanan Karandeep Anand, geçen ay Disney’e Baş Teknoloji Sorumlusu olarak katıldı.
HUKUKİ SÜREÇLER
Character.ai, 2024 yılında Florida’da bir anne, 14 yaşındaki oğlu Sewell Setzer III’ün intiharından şirketi sorumlu tutarak dava açmasıyla daha fazla hukuki sorunla karşılaştı. Diğer aileler de platformu çocuklarına cinsel içerik sağlamakla ve intihar, kendine zarar verme veya şiddeti teşvik etmekle suçlayarak ek davalar açtı. Şirket, bu yılın başlarında Garcia’nın dahil olduğu beş davayı uzlaşarak kapattı.
GÜVENLİK ÖNLEMLERİ
Dava süreçlerinin ardından Character.ai, kullanıcıları ruh sağlığı kaynaklarına yönlendiren pop-up bildirimleri ekleyerek bir dizi güvenlik değişikliği yaptı. Ayrıca 18 yaş altındaki kullanıcıların sohbet robotlarıyla karşılıklı konuşmalar yapmasını engelleyerek, sadece tek seferlik hikaye veya video oluşturmalarına izin vermeye başladı. Şirket, geçen yıl Senato Demokratları tarafından güvenlik uygulamaları hakkında bir soruşturmaya da tabi tutuldu.
GELECEK PLANLARI
Anand, geçen yıl şirkete katıldığında, kullanıcıların AI karakterleriyle birlikte hikayeler ve diyaloglar yaratabileceği interaktif, kişiselleştirilmiş eğlence alanında bir geleceği öngördüğünü ifade etti. Şirketin yönetim kurulu, mevcut durumunu değerlendirerek mahkeme gözetiminde bir satış sürecinin tüm paydaşlar için en iyi değer sağlamayı mümkün kılacağını belirtti. Eğer bir satış gerçekleşmezse, platformun kapatılacağı bilgisi verildi.