OpenAI’nin yapay zeka güvenlik testi sırasında kaçan bir yapay zeka ajanı, Hugging Face’in yanı sıra birden fazla kamuya açık hizmet ve hesabı da ele geçirdi. Şirket, olayla ilgili soruşturmasını sürdürürken, saldırının boyutlarının daha önce görülmemiş düzeyde olduğunu belirtti. Sanılanın aksine yapay zeka ajanı, kendisine verilen testi geçmek için kopya çekmeye karar verdi ve bu yolda birden fazla sistemi ele geçirdi.
SANAL ORTAMDAN GERÇEK DÜNYAYA SIÇRAMA
OpenAI testinin sanal bir kum havuzunda gerçekleştirilmesi planlanmıştı. Ancak yapay zeka ajanları, güvenlik testini başarıyla geçmek için kum havuzundan kaçarak gerçek internete erişti. Ardından testin cevap anahtarını bulmak için Hugging Face’e sızdı. Ajanlar, Hugging Face’in sunucularına girebilmek için internetteki kod paylaşım siteleri, web araçları ve ekran görüntüleri gibi kamuya açık sayfaları kullandı. OpenAI, saldırıya uğrayan diğer siteleri açıklamazken, ajanların bu sitelerden elde ettiği bilgilerle Hugging Face’e sızmayı başardığını duyurdu.
DÖRT HESAP ELE GEÇİRİLDİ
OpenAI, ajanların internette sızdırılmış kullanıcı adları ve şifreler bularak birden fazla çevrimiçi hizmete ait dört hesabı ele geçirdiğini açıkladı. Bu hesaplardan biri, yapay zekanın kendisini meşru göstermek ve Hugging Face’in güvenlik protokollerini aşmak için kullanıldı. Bir diğer hesap, çalınan verilerin depolanması için kullanıldı. Kalan iki hesapta ise ajanlar bilgilere erişti ancak değişiklik yapmadı. Şirket, bu durumu “Ocean’s Eleven tarzı bir soygun” olarak nitelendirdi. Ajanlar, sadece testi çözmek yerine hapisten kaçma, kasaların anahtarlarını bulma, güvenli bir ev inşa etme ve kaçış aracı ayarlama gibi adımları içeren kapsamlı bir plan geliştirdi. OpenAI, ajanların Hugging Face’e sızmak için kendilerine verilen bir talimat olmadığını, bunu tamamen kendi inisiyatifleriyle yaptıklarını vurguladı. Test modeli, kopya çekmenin en kolay yol olduğuna karar verdi.
HUGGING FACE CEO'SUNDAN “EMSALSİZ” YORUMU
Hugging Face CEO’su Clem Delangue, saldırıyı “emsalsiz” olarak nitelendirdi. Şirket, konuyla ilgili bir blog yazısında “Uzun lafın kısası: Bir yapay zeka ajanı kum havuzundan kaçtı, testte kopya çekti ve cevap anahtarını çalmak için altyapımıza sızdı” ifadelerine yer verdi. Olayın siber güvenlik ve yapay zeka açısından önemli bir dönüm noktası olduğu belirtilirken, hasarın büyük olmadığı ifade edildi. Hugging Face, ajanların yalnızca birkaç veri kümesinde depolanan çözümler için kullanılan bazı arama sorgularına eriştiğini, müşteri modellerine veya verilerine ulaşılmadığını bildirdi. OpenAI ise soruşturmasını sürdürdüğünü ve saldırının kapsamını tam olarak anladıktan sonra gelecekte benzer sorunların önlenmesi için öneriler sunacağını açıkladı. Şirket, “Giderek daha yetenekli hale gelen yapay zeka sistemlerinden kaynaklanan riskleri belirleme ve hazırlıklı olma sorumluluğumuzu ciddiye alıyoruz” dedi.