Yapay zeka destekli metin üretiminin artmasıyla birlikte, bir metnin insan elinden mi yoksa makineden mi çıktığını ayırt etmek her geçen gün daha da zorlaşıyor. Birçok kullanıcı için nitelikli metin yazmak oldukça güçken, yapay zeka modelleri profesyonel bir kalemden çıkmasa da en azından son derece kullanışlı metinler üretebilecek seviyeye ulaştı. Bu tabloda yapay zeka şirketi Anthropic, geçtiğimiz hafta Claude sistemi üzerinden üretilen tüm metinlere yakında “filigran” ekleneceğini duyurarak önemli bir adım attı. Şirket, bu değişikliğin Avrupa Birliği’nde yakın zamanda yürürlüğe giren ve yapay zeka kaynaklı içeriklerin etiketlenmesini kullanıcılar için zorunlu kılan düzenlemelere uyum sağlamak amacıyla yapıldığını açıkladı. Diğer yapay zeka şirketlerinin de benzer bir yolu izlemesi bekleniyor.
FİLİGRAMIN TARİHSEL KÖKENİ
“Filigran” kavramı aslında fiziksel ve gözlemlenebilir bir üretim sürecine dayanıyor. 1200’lü yıllarda İtalyan kağıt üreticileri, kendi atölyelerinden çıkan kağıtlara ayırt edici ve incelikli işaretler eklemek için bir teknoloji geliştirdi. İngilizce’de tasarım anlamında kullanılan bu kelimenin kökeni, 1700’lere dayanıyor ve büyük olasılıkla eski bir teknikten türemiş durumda. Bu teknikte tel belirli bir şekle bükülüyor ve ıslak kağıt hamurunu presleyen eleklere tutturularak her bir kağıda bir desen işleniyordu. Yeni üretilen kağıt kuruduğunda ışığa tutulduğunda kalın ve ince bölgelerden oluşan kalıcı bir desen ortaya çıkıyordu. Yüzyıllar boyunca filigranlar kalite ve orijinalliğin göstergesi haline geldi. Posta pullarında, banknotlarda, yasal sözleşmelerde ve resmi belgelerde sıklıkla sahteciliğe karşı koruma amacıyla kullanıldı. Örneğin 1895-1910 yılları arasında basılan ABD posta pullarında çift hatlı “USPS” yazısı bulunurken, 1910-1916 yılları arasındaki pullarda tek hatlı versiyonu yer aldı.
DİJİTAL ÇAĞDA FİLİGRAN TEKNOLOJİSİ
Yerleşik tanımlayıcı ekleme fikri, fiziksel işaretlerin yerini verilere gömülü gizli sinyallere bırakmasıyla birlikte somut olmayan medyalara da taşındı. ABD’nin önde gelen fon müziği sağlayıcısı Muzak Corporation’dan Emil Hembrooke, 1954’te şirketinin ürününe duyulamayan kimlik kodları yerleştirmek için açtığı patentte kağıt filigranına atıfta bulundu. Hembrooke, “Bu buluş, bir müzik sunumunun kaynağının kesin olarak tanımlanmasını mümkün kılar ve bu tür korsanlığı önlemek için etkili bir araç oluşturur; yani kağıttaki filigrana benzetilebilir” ifadelerini kullandı. Dijital filigran kullanımı 1990’lar ve 2000’lerin başında internetin müzik, film ve diğer dijital medyanın korsanlığını kolaylaştırmasıyla birlikte yaygınlaştı. Cornell Üniversitesi’nde bilgisayar tarihi uzmanı olan Gili Vidan, filigranların bir şarkının haklarının belirli bir müzik şirketine ya da bir filmin haklarının belirli bir yapım stüdyosuna ait olduğunu gösterdiğini belirtiyor.
YAPAY ZEKA FİLİGRANLARI NASIL ÇALIŞIYOR?
Yapay zeka kaynaklı içeriklerin internet üzerinde hızla yayılmasıyla birlikte şirketler modellerinden çıkan çıktıları etiketlemeye başladı. Ancak fiziksel ve dijital filigranlar orijinalliği doğrulamayı amaçlarken, yapay zeka filigranları daha çok sahteliğe işaret ediyor. Bu filigranlar fikri mülkiyeti korumak yerine, kullanıcının kelimeler üzerindeki sahiplik iddiasını sorgulanır hale getiriyor. Dijital metinlerdeki filigranlama sistemi büyük dil modellerinin çalışma prensibine dayanıyor. Modeller, bir dizideki bir sonraki kelimeyi tahmin etmek için geniş veri setleriyle eğitiliyor. Sonraki kelime için birden fazla mantıklı seçenek olduğunda model, verilerdeki göreceli sıklıklara dayanarak bu kelimelerden birini şansa bağlı olarak seçiyor. Filigranlama işleminde ise sistem, bu olasılıkları yeniden ayarlayarak modeli bazı kelimelere hafifçe yönlendiriyor. Bu sayede model metin boyunca belirli kelime seçimlerine yönelerek yalnızca anahtara sahip kişilerin algılayabileceği bir desen oluşturuyor. Metin uzadıkça filigranın tespit edilme olasılığı da artıyor.
TEKNOLOJİNİN SINIRLARI VE TOPLUMSAL YANKILARI
Cornell Üniversitesi’nden yapay zeka etiği ve politikaları araştırmacısı Daniel Susser, çoğu filigranın varlığı ya da yokluğuyla kesin bilgi verdiğini ancak yapay zeka metin filigranlarının bir metnin insan tarafından mı yoksa yapay zeka modeli tarafından mı yazıldığını kesin olarak kanıtlamadığını söylüyor. Susser, filigranlamanın yalnızca yapay zeka kullanımına işaret eden istatistiksel kanıtlar sunduğunu belirterek “Bu kanıt kesin bir evet/hayır sinyali değil, yorumlanması gereken bir sinyal” dedi. Anthropic’in duyurusu bazı kullanıcılar arasında endişe yarattı. Reddit’te yapay zeka konulu bir forumda bir kullanıcı iş başvurularında veya tez teslimlerinde filigran tespit edilmesinin yaratacağı damgalamaya dikkat çekerek “Kirişlerle dolu bir yaratıcı kastı oluşturuyoruz” şeklinde tepki gösterdi. Susser, bu endişenin toplumun yapay zeka kullanımına ilişkin net normlar geliştirememesinden kaynaklandığını düşünüyor. Bazı sektörlerde çalışanlar üzerinde yapay zeka kullanma baskısı varken diğerlerinde bu kullanım güçlü biçimde caydırılıyor. Susser ayrıca birçok kişinin yapay zeka kullanmanın uygun olup olmadığı konusunda gerçekten emin olamadığını, bunu gösterecek teknik bir aracın varlığının tehditkar görünebileceğini ifade etti.
YAPAY ZEKA FİLİGRANLARI VE GELECEK
Sentetik içeriklerin etiketlenmesini savunan Cardiff Üniversitesi felsefe öğretim üyesi Sarah Fisher, bir metni insanın mı yoksa yapay zekanın mı yazdığını bilmenin faydalı olabileceğini belirtiyor. Bir öğrencinin bir argümanı kendi başına mı oluşturduğu yoksa Claude’un ürettiği metni mi teslim ettiği profesör için önem taşıyor. Toplumun insan sanatsal ifadesine yapay zeka çıktısından farklı değer vermesi nedeniyle, bir el yazmasının büyük ölçüde yapay zeka tarafından üretilip üretilmediği de yayıncılar ve okuyucular için belirleyici olabiliyor. Vidan, filigranın yalnızca bir araç olduğunu ve kullanıcıların yalnızca varlığına veya yokluğuna dayanarak aceleci sonuçlara varmaması gerektiğini söylüyor. Araştırmacılar, filigran teknolojisinin bireysel bir kullanıcıyı veya metni hedeflemekten çok, genel olarak ne kadar yapay zeka kaynaklı içerik üretildiğini ölçmekte daha faydalı olabileceğini değerlendiriyor. Susser bu durumu, Covid-19 için bireysel test yapmak yerine atık suyu test etmeye benzetiyor ve “Filigranları bilgi ekosistemlerimizin ne kadarının yapay zeka kaynaklı içerikten etkilendiğini anlamak için kullanabileceğimizi öneriyoruz” diyor. Vidan ise 1980’lerde bankaların renkli yazıcı ve fotokopi teknolojilerindeki gelişmelerle sahte banknot üretiminin artabileceği endişesiyle ABD’nin banknot tasarımlarına filigran eklemeye başladığını hatırlatıyor. Vidan’a göre yapay zeka metin filigranları da medya ortamındaki benzer güven sorunlarına çözüm olabilir. Çok sayıda medyanın sahte veya sentetik olarak üretildiğine inanan insanlar gördükleri her şeyi sorgulamaya başlayabilir.