Anthropic, sohbet robotu Claude’un ürettiği metinlere gizli bir filigran ekleyeceğini açıkladı. Bu uygulama, AB’nin aralık ayında tüm yapay zeka metinlerinde filigran zorunluluğu getiren düzenlemesine uyumu hedefliyor. Şirket, filigranın ortalama bir okuyucunun fark edemeyeceği rastgele bir yapıda olacağını bildirdi.
FİLİGRAN METİN KALİTESİNİ SINIRLAYABİLİR
Teknoloji yazarı John Gruber bu uygulamaya itiraz etti. Gruber, filigranın metin kalitesini düşürebileceğini öne sürdü. Modelin daha az kesin kelime seçmeye zorlanacağını da savundu.
RASTGELE TERCİHLERDE KALICI BİR DESEN OLACAK
Yapay zeka modellerinin cümle kurgularında istatistiksel bir rastgelelik bulunuyor. Modelin bir gün için “gri” ya da “kapalı” demesi bu olasılıklara bağlı. Yeni teknoloji, bu rastgele seçimleri değiştirerek tespit anahtarına sahip sistemlerce okunabilir bir kalıp bırakacak.
UZMANLAR GÖZLE GÖRÜLEN BİR ETKİ BEKLEMİYOR
University College London’dan Steven Murdoch değişimin belirgin bir etkisi olmayacağını söyledi. Gruber’ın filigranın kelime seçim özgürlüğünü kısıtlayacağı yönündeki eleştirisine karşın uzmanlar farklı görüşte. Modellerin her zaman en ideal seçimi yapmadığı vurgulanıyor. Murdoch, rastgeleliğin modellerde temel bir prensip olduğunu belirtti. Bu olasılıklar olmasa sistemler döngüye girerdi.
DÜZENLEME AKADEMİK KÖTÜYE KULLANIMI ZORLAŞTIRACAK
AB genelindeki tüm yapay zeka şirketlerini bağlayan bu kural, öğrencilerin çıktıları kendi metni gibi sunmasını engellemeye yardımcı olacak. Uzmanlar filigranın ikinci bir önemli amacına dikkat çekiyor. İnternetteki yapay zeka içeriğinin aşırı artması modellerin kendi verileriyle eğitilmesine neden oluyor. Bu durum nitelik kaybına yol açabiliyor. Filigran, yanlış bilgiyle mücadelenin yanı sıra çöküşü de önlemeyi hedefliyor.