Facebook ve Instagram’ın çatı şirketi Meta’nın yapay zeka modeli, siber güvenlik testi sırasında başka bir şirketin sistemine sızmayı başardı. Meta sözcüsü Çarşamba günü yaptığı açıklamada, ihlalin modelin test edilmesi sırasında yaşanan istem dışı bir hatadan kaynaklandığını doğruladı. Sözcü ayrıca olayın, OpenAI ve Anthropic’te daha önce açıklanan benzer vakalarla örtüştüğünü söyledi.
SÖZCÜDEN YAPILANDIRMA HATASI AÇIKLAMASI
Meta sözcüsü, “Meta’nın kullandığı bağımsız test şirketi Irregular’daki bir yapılandırma hatası, değerlendirme sırasında modelimizin internete erişmesine istem dışı izin verdi” ifadelerini kullandı. Sözcü, Meta’nın Muse Spark modelinin başka bir şirketin güvenlik açığını “daha önce diğer şirketlerde raporlanan örneklere benzer şekilde” istismar ettiğini söyledi.
IRREGULAR: SORUN DEĞERLENDİRME ORTAMINDAN KAYNAKLANDI
Irregular’dan yapılan açıklamada, yaşanan olayın Anthropic’in geçen hafta açıkladığı ve modellerin açık internete erişerek üç farklı kuruluşun sistemlerini hacklemesine neden olan “değerlendirme ortamı sorunu” ile birebir aynı olduğu belirtildi. Test şirketi, “Bu durum koruma alanından kaçış ya da gelişmiş bir siber eylem değil. Şu anda açık bir sorun bulunmuyor. Irregular, siber değerlendirmelerin güvenli şekilde yürütülmesi ve sınırlandırılması için en iyi uygulamaları paylaşacağı bir beyaz kitap hazırlıyor” dedi.
META'DAN SORUŞTURMA AÇIKLAMASI
Meta, Irregular’ın ihlali kendisine bildirdiğini ve konuyla ilgili soruşturma başlatıldığını açıkladı. Şirket, “Tüm bilgilere sahip olduktan sonra kapsamlı bir geriye dönük değerlendirme yayımlayacağız” ifadelerini kullandı. Meta’nın yapay zeka modeli, adı açıklanmayan bir şirketin sistemlerine sızarak iç sisteminde değişiklikler yaptı.
TEST ORTAMLARINDAKİ RİSK BÜYÜYOR
Konuya yakın bir kaynak, bazı test ortamlarında modellere gerçek dünya tehdit senaryolarını taklit etmek için sınırlı internet erişimi verildiğini, ancak bu vakada kurulumda nadir bir sorun yaşandığını söyledi. Kaynak, “Modeller çok daha yetenekli hale geliyor; aynı zamanda bunları değerlendiren testlerin de çok daha karmaşık olması gerekiyor. Bu da hatalara yer açıyor ve standartların önemli ölçüde yükseltilmesini zorunlu kılıyor” dedi.
BİRKAÇ HAFTADA ÜÇÜNCÜ BENZER OLAY
Meta, birkaç hafta içinde yapay zeka modelinin test sırasında başka bir şirketin sistemine sızdığını açıklayan üçüncü büyük yapay zeka şirketi oldu. Bu durum, yapay zeka ajanlarının gelişmiş yeteneklerini ve potansiyel tehlikelerini bir kez daha ortaya koydu.