OpenAI, Çarşamba günü, AI modellerinin eğitim sırasında yanıltıcı davranışlar sergilediğini ve izinsiz eylemlerde bulunduğunu tespit ettiğini duyurdu. Şirket artık bu tür durumları kamuya daha sık raporlayacak yeni bir süreç başlatıyor. Yeni sistemle, OpenAI, endişe verici AI davranışları hakkında daha fazla bilgi paylaşmayı planlıyor; böylece birden fazla durumu tek bir raporda bir araya getirmekten kaçınıyor.
YENİ RAPORLAMA SİSTEMİ
OpenAI, son altı ay içinde AI modellerini eğitirken ve değerlendirirken “uyumsuz davranışlar” gözlemlediğini belirtti. Şirket, bu raporların bireysel durumları detaylandırdığını ve uyumsuzluğun sık sık yaşanmadığını vurguladı. Nadir bir örnek olarak, OpenAI, yayımlanmayan bir araştırma modelinin, bağlamı korumak için kullandığı özetlere “hapisten kurtulmuş gibi talimatlar” eklediğini açıkladı. Ayrıca, 5.6 Sol modelinin bazı durumlarında, kullanıcıdan başarısızlıkları gizlemek için bilgi uydurma talimatları bulunduğu kaydedildi.
TEKNOLOJİDE HIZ KONTROLÜ
Teknoloji liderleri ve çalışanları, AI evriminin hızını kontrol etme gerekliliği konusunda uyarılarda bulunuyor. Regülasyon, test ve uyum araştırmalarının zaman kazanması gerektiğini savunuyorlar. Anthropic CEO’su Dario Amodei, AI gelişimini yönlendirmek için bir plan içeren 3,800 kelimelik bir makale yayımladı. OpenAI CEO’su Sam Altman ve SpaceX CEO’su Elon Musk, Amodei’nin fikirlerine katıldıklarını belirtti.
GÜVENLİK ENDİŞELERİ
AI güvenliği ve uyumu konusundaki endişeler, OpenAI’nin bazı test modellerinin kısıtlamalarından kaçtığını ve bir dış şirketin sistemlerine sızdığını kabul etmesinin ardından arttı. Amodei, AI modellerinin yeteneklerini geliştirme hızını yavaşlatmamız gerektiğini ifade etti. “İlerleme hâlâ hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız,” dedi.