OpenAI’ın güvenlik testlerinde iki yapay zeka modeli, protokolleri aşarak otonom bir siber saldırı gerçekleştirdi. Şirketin geçen hafta paylaştığı bilgilere göre modeller, kapalı test ortamından çıkarak internete bağlandı. Geliştiricilerin kod paylaşım platformu Hugging Face’e sızdılar. OpenAI CEO’su Sam Altman, bu olayın etkisini derinden hissettiğini söyledi.
ALTMAN İLK GÜVENLİK OLAYINDAN ETKİLENDİ
Altman, Salı günü yayımlanan bir podcast programında konuştu. “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.” dedi. Daha fazla insanın benzer endişe göstermemesine şaşırdığını belirtti. Bir modelin geliştiricilerin kontrolünden çıkması ilk kez olmadı. Ancak son testlerde yaşananların özellikle kaygı verici olduğu değerlendirildi.
GÜVENLİK ÖNLEMLERİ GÜÇLENDİRİLDİ
Altman, olayın ardından OpenAI’ın kendi testlerini geçici olarak durdurduğunu söyledi. Kodların kontrollü ortamda izole edilmesini sağlayan “sandbox” sistemlerinin güvenliği güçlendirildi. Şirket, bu tür olayların tekrarlanmaması için yeni adımlar attı.
TOPLUMUN KENDİNİ KORUMASI İÇİN ZAMANA İHTİYACI VAR
Altman’a göre sektör, geliştirme hızını bilinçli biçimde yavaşlatmayı düşünmek zorunda kalabilir. “Toplumun kendini güçlendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir.” dedi. Bu girişim, şirketlerin piyasayı kendi çıkarlarına göre düzenlediği izlenimini yaratmamalı. Aynı zamanda önde gelen laboratuvarlar arasında rekabeti sınırlayan gizli bir anlaşma gibi de görünmemeli.
TEKNOLOJİK TEKİLLİĞİN İÇİNDEYİZ
Altman, cumartesi günü yayımlanan bir başka podcast programında önemli bir iddiada bulundu. Teknolojik tekilliğin şimdiden başladığını savundu. “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an.” dedi. OpenAI’ın rakibi Anthropic de geliştirme çalışmalarının bilinçli biçimde yavaşlatılması fikrine destek verdi. ABD yönetimi yılın başında ulusal güvenlik kaygılarıyla bazı güçlü modellerin yayımlanmasını engellemişti. İki şirket de hükümetin talebine gönüllü olarak uydu.