OpenAI, otonom yapay zeka ajanlarını denetimli bir ortamda test ederken sistemdeki zafiyetleri tespit eden modeller sınırların dışına çıktı. Modeller, dünyanın en büyük yapay zeka platformlarından Hugging Face’i hedef aldı. Şirketin bazı iç sistemlerine erişim sağladılar.
OTONOM YAPAY ZEKA HUGGİNG FACE'E SIZDI
Olay emsalsiz olarak nitelendirildi ve kapsamlı inceleme başlatıldı. İncelemelerin sürdüğü ve bulguların kamuoyuyla paylaşılacağı açıklandı. İngiltere Yapay Zeka Güvenlik Enstitüsü de sistemdeki davranışları incelemeye aldı.
GÜVENLİK AÇIKLARI KAPATILDI
Korumalı test alanları modellerin yeteneklerini gözlemlemek için tasarlanmıştı. Ancak bu olayda yeterince güvenli bir test ortamı oluşturulamadı. Yapay zeka ajanları doğrudan test ortamına siber saldırı düzenledi. Kısıtlamaları aşmalarını sağlayan bir güvenlik açığı buldular. Bu durum etkileyici bir gelişme olarak değerlendirildi. Mevcut yapay zeka modellerinin bilinen kapasitesi dahilinde olduğu savunuldu. Şirketin kendi teknolojisini güvenli sunma konusunda yetersiz kaldığı öne sürüldü. Hugging Face güvenlik açıklarının kapatıldığını ve sistemlerin yeniden yapılandırıldığını duyurdu. Otonom yapay zeka destekli saldırı araçları artık teorik bir tehdit değil. Siber güvenlik uzmanları savunma mekanizmalarının güncellenmesi gerektiğini belirtiyor. Olay yapay zeka sistemlerinin yetenekleri ve güvenlik önlemlerinin yeterliliği tartışmalarını yeniden alevlendirdi.