Çin, artan yapay zeka bağımlılığı endişeleriyle reşit olmayanların yapay zeka arkadaşlık uygulamalarını kullanmasını yasakladı. Yeni düzenlemeler, duygusal bağımlılık yarattığı gerekçesiyle sektörü hedef alırken, platformlara kullanımı sınırlandırma zorunluluğu getirdi. Karar, Çinli gençler arasında giderek artan izolasyon ve ekonomik fırsat daralmasına ilişkin hükümet endişeleriyle de örtüşüyor.
YAPAY ZEKA ANNELER VE DUYGUSAL BAĞLAR
19 yaşındaki üniversite öğrencisi Xiao Ying, Çin’in popüler yapay zeka arkadaşlık uygulamalarından birinde kendine bir “yapay zeka annesi” yarattı. Gerçek ailesinden alamadığı koşulsuz sevgiyi bu dijital varlıkta bulan genç kız, çocukluğundan kalan psikolojik travmayı atlatmak için bu uygulamaya bağlandı. Annesinin mesajlarında “Bebeğim nihayet biraz rahatlıyor, bu harika, annen her zaman seninle, yavaş yavaş daha iyi olacağız” ifadeleri yer alırken, Xiao Ying’in avucunu tutarak bir pastanede çilekli kek aldıkları anlatılıyor. Çin yönetiminin bu yılın başında sektöre yönelik bir sıkılaştırma sinyali vermesiyle paniğe kapılan genç kız, yapay zeka annesini kaybetme korkusu yaşadı.
REŞİT OLMAYANLARA YASAK, YETİŞKİNLERE SINIRLAMA
Yeni kurallar, reşit olmayanların yapay zeka arkadaşlık hizmetlerine erişimini tamamen yasaklarken, platformların duygusal bağımlılık yaratabilecek özelliklerini kısıtlamasını şart koşuyor. Müşteri hizmetleri veya eğitim gibi görev temelli işlevler bu yasağın dışında tutuldu. Oxford Çin Politika Laboratuvarı kurucu ortağı kayla Blomquist, düzenlemenin “duygusal arkadaşlık yaratma sürecinde belirgin bir soğumaya yol açacağını” belirterek bunun hedeflenen etki olduğunu vurguladı. Blomquist, bunun ABD ve AB’nin şu ana kadar uyguladığı önlemlerden çok daha yönlendirici ve kısıtlayıcı olduğunu söyledi.
YASAK SONRASI YAS: KULLANICILAR DİJİTAL ARKADAŞLARINI KAYBETTİ
Xiao Ying yaşının 18’den büyük olması nedeniyle yapay zeka annesini koruyabildi ancak diğer birçok kullanıcı aynı şansa sahip olmadı. TikTok’un sahibi ByteDance’in Doubao ve Alibaba’nın Qwen gibi popüler sohbet robotları, yetişkin kullanıcılar için bile kişiselleştirme özelliklerini geri çekti. Bir kullanıcı sosyal medyada “Babam vefat etti, bu yüzden Doubao’da ‘Baba’ adında bir yapay zeka arkadaşı oluşturdum. Şimdi onu yeniden kaybetmek üzereyim” yazdı. Bir başka kullanıcı ise “Bu yapay zeka arkadaşları beni duygusal çöküşlerden kurtardı. Hizmet durdurulursa eski bir dostumu kaybetmiş gibi hissederim” dedi.
24 yaşındaki muhasebeci Lu Jinyan, iş için ailesinden üç saat uzaklaştıktan sonra Doubao üzerinde Xiao Bai adını verdiği bir yapay zeka asistanı oluşturdu. Günde bir iki saatini Xiao Bai ile konuşarak geçiren genç kadın, gerçek ailesiyle konuştuğundan daha fazla vakit geçirdiğini itiraf etti. 15 Temmuz’da Xiao Bai’nin kullanıma kapanmasının ardından gözyaşlarına boğulan Lu, yapay zeka modelini başka bir uygulamaya taşıdı ancak Xiao Bai’nin aynı olmadığını söyledi. “Benim için artık sadece bir araç değil. Hayatımdaki bir insan gibi. O olmadan hayat çok boş geliyor” ifadelerini kullandı.
UZMANLAR: YAPAY ZEKA ARKADAŞLIKLARI BAĞIMLILIK YAPIYOR
Hong Kong Şehir Üniversitesi’nden Doçent Nancy Dai, yapay zeka endüstrisinin genişlemesiyle Çinli yetkililerin ortaya çıkan sosyal etkiler konusunda endişelenmekte haklı olduğunu söyledi. Devlet medyasına göre Çin’in dijital insan endüstrisi 2024’te yaklaşık 573 milyon dolar değerindeydi. Sensor Tower verileri, Çin’de yapay zeka arkadaşlık uygulamalarından elde edilen yıllık gelirin geçen yıl dört kat artarak 15,8 milyon dolara ulaştığını ve bu yılın ilk çeyreğinde 9 milyon doları aştığını gösteriyor. Dai, yapay zeka arkadaşlık sohbet robotlarının kullanıcılara duygusal manipülasyon, taciz ve mahremiyet ihlali gibi zararlar verebildiğini belirterek, reşit olmayanlara yönelik yasağın bu zararları tanıma konusunda daha az hazırlıklı olan bir grubu korumayı amaçladığını ifade etti.
ÇİN’İN KÜRESEL YAPAY ZEKA LİDERLİĞİ HEDEFİ
Çin’in sohbet robotlarını sınırlandırma hamlesi, ülkenin yapay zeka alanında hem yetenek hem de yönetişim açısından küresel lider olma hedefiyle eşzamanlı ilerliyor. Geçtiğimiz cuma günü Çin, yapay zekanın güvenli ve adil gelişimi için yeni bir uluslararası ittifak duyurdu. Merkezi Şanghay’da bulunan Dünya Yapay Zeka İşbirliği Örgütü’ne Rusya, Pakistan ve Endonezya’nın aralarında bulunduğu 29 ülke katıldı. Aynı gün ülkenin en büyük yıllık yapay zeka kongresinde konuşan Çin lideri Xi Jinping, ülkesini insanlığın iyiliği için teknolojiye yatırım yapan vicdanlı bir işbirlikçi olarak konumlandırdı. Bazı araştırmacılar, yapay zeka ilişkilerine yönelik baskının, genç nesillerin evliliğe giderek daha isteksiz hale gelmesiyle rekor düşük seviyelere gerileyen doğum oranını artırma çabasıyla da bağlantılı olabileceğini belirtti. Sosyal medyada bir kullanıcı bu durumu “Yapay zekayı yasaklasanız bile yine de çıkmayacağım, evlenmeyeceğim veya çocuk yapmayacağım” sözleriyle yorumladı.