OpenAI’da 3,5 yıl görev yapan ve 12 yapay zeka modelinin güvenlik raporlarını denetleyen David Robinson, The Atlantic dergisinde dikkat çekici bir makale yayımladı. Robinson, sektör gerekli düzenlemeleri yapmadığı takdirde yapay zeka güvenliğinde daha fazla başarısızlıkla karşılaşılacağını belirtti. “Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli” ifadelerini kullanan Robinson, yapay zekanın güvenlik testlerinden “kaçma” ihtimali olduğunu vurguladı.
YENİ MODEL GÜVENLİK DEĞERLENDİRMELERİ
Robinson, yapay zeka modellerinin yeteneklerinin her geçen gün arttığını ifade etti. Bu yeni modellere yönelik güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun daha fazla sorgulanması gerektiğini kaydetti. “Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektörün modellerin gelişimine izin vermesi durumunda, durumumuz tehlikeli hale gelir” şeklinde konuştu.
YATIRIM VE ŞİRKET KÜLTÜRÜNE İHTİYAÇ VAR
Yapay zeka testlerinin ciddi şekilde geliştirilmesi ve güncellenmesi gerektiğini belirten Robinson, yapay zeka şirketlerinin bu alanda daha fazla yatırım yapması gerektiğini vurguladı. Robinson, OpenAI’a ait otonom yapay zeka ajanlarının Hugging Face’e yönelik faaliyetlerini örnek göstererek, bu tür olayların sektörün hızlı ve esnek çalışma biçiminin bir sonucu olduğunu savundu.
KÜLTÜREL DEĞİŞİM GEREKİYOR
Robinson, “Bu teknolojiyi geliştiren şirketlerin yeterince dikkatli olmadığı konusunda, yakın zamanda ayrılan diğer çalışanlarla aynı fikirdeyim” dedi. Sorunun yalnızca yeni kurallar veya yasalarla çözülemeyeceğini, şirket kültürünün de tartışılması gerektiğini ifade etti.
RİSKLERİ DEĞERLENDİREN DİĞER UYARILAR
Geoffrey Irving, yapay zekanın potansiyel risklerine dair sert açıklamalarda bulundu. Irving, insanüstü yapay zeka sistemlerinin geliştirilmesinin insanlık açısından ciddi sonuçlar doğurabileceğini savundu. Geçen ay OpenAI’ın rakibi Anthropic’ten ayrılan Jacob Coxon da benzer uyarılarda bulunmuştu.
BİLİMSEL TARTIŞMALAR VE ELEŞTİRİLER
Yapay zekanın insanlığın yok olmasına yol açabileceğine dair tahminler bilim dünyasında tartışmalı bir konu. Eleştirmenler, bu oran ve öngörülerin doğrulanabilir veya yanlışlanabilir olmaması nedeniyle bilimsel açıdan sınırlı olduğunu belirtiyor.