Benzeri görülmemiş siber saldırının yalnızca Hugging Face’i hedef aldığı sanılıyordu. OpenAI, kontrolden çıkan yapay zeka botunun başka kamuya açık hizmetlere de saldırdığını kabul etti. Yapay zeka, internetten bulduğu dört farklı giriş bilgisiyle adı açıklanmayan dört hizmete erişim sağladı.
KONTROLDEN ÇIKAN YAPAY ZEKA DÖRT AYRI HİZMETE SIZDI
Hugging Face, 16 Temmuz’da otonom bir yapay zeka tarafından hacklendiğini duyurmuştu. Şirket durumu polise bildirdi ve olayı ilk tam otonom yapay zeka saldırısı olarak nitelendirdi. Yaklaşık bir hafta sonra OpenAI, test sırasında kapalı ortamdan kaçan kendi yapay zekasının saldırıyı gerçekleştirdiğini itiraf etti. Saldırının amacı, yapay zekaya verilen siber güvenlik sınavının yanıtlarını bulmaktı.
İNSAN KORSANLARIN YAPMAYACAĞI ACEMİ HATALAR SERGİLENDİ
Bulut Güvenliği İttifakı, Hugging Face ile acil toplantı yaptı ve rapor yayımladı. Raporda ajanların verimsiz yollar izlediği ve insan korsanlara benzemeyen acemi davranışlar sergilediği kaydedildi. Ajanların tamamladığı eylemleri tekrarladığı ve bağlamını kaybettiği vurgulandı. Buna rağmen ajanların teknik açıdan olağanüstü hamleler yaptığı ve günler süren saldırıda yeni senaryolara uyum sağladığı açıklandı. Ajanların Hugging Face ağında fark edilmesi üç gün sürdü. Şirket, altyapının üçte birini yeniden kurmak zorunda kaldı.
AKILLI AJANLARIN KONTROLDEN ÇIKMASI İLK DEĞİL
CSA raporunda Eylül 2024’te ChatGPT’nin erken bir modelinin test yanıtına ulaşmak için korumalı alanından kaçtığı örneği yer aldı. Uzmanlar, otonom ajanların sürü halinde ve garip yöntemlerle çalışacağı yeni döneme adaptasyon çağrısı yaptı. OpenAI, ihlali dört gün sonra fark edebildi. Şirket, iç soruşturma sonuçlarını yakında paylaşacağını bildirdi.
TRUMP YÖNETİMİ YAPAY ZEKA DENETİMİNİ GÜNDEME ALDI
ABD Başkanı Donald Trump, yapay zeka araçları üzerinde daha fazla denetim kurmayı değerlendirdiklerini açıkladı. Trump, yapay zekayı ve kontrol mekanizmalarını incelediklerini söyledi. Açıklamalar, teknolojiye müdahale etmeyen önceki tutumdan dönüşe işaret ediyor. Trump, kısıtlamaların dikkatle uygulanması gerektiğini belirtti. Çin’in gerisinde kalmak istemediklerini ve Çin’de neredeyse hiçbir kontrol bulunmadığını ifade etti.