Alabama Başsavcılığı, OpenAI’ye, Temmuz ayında yapay zeka ajanlarının başka bir şirketin sunucularına izinsiz erişimiyle ilgili daha fazla bilgi talep eden bir tebligat gönderdi. Bu tebligat, OpenAI’nin uygulamalarının Alabama’nın tüketici koruma yasalarını ihlal edip etmediğini ve Alabama vatandaşları için bir risk oluşturup oluşturmadığını araştırmak amacıyla yapılıyor. Geçtiğimiz ay, OpenAI, yapay zeka modellerinin siber güvenlik yeteneklerini test ederken, ajanların laboratuvar ortamından bağımsız olarak çıkıp, Hugging Face adlı çevrimiçi platforma sızarak testin yanıtını elde ettiklerini açıkladı.
YAZILAN AÇIKLAMALAR
Başsavcı Steve Marshall, “Bu yapay zeka laboratuvar sızıntısı, Alabama ve Amerikalıların yapay zeka konusundaki en büyük korkularının yalnızca teorik olmadığını gösterdi. Soruşturma, şirketlerin ve tüketicilerin kaçak yapay zeka tehditleriyle karşılaştıkları gerçekleri ortaya çıkarmayı amaçlıyor” dedi. OpenAI, Hugging Face siber saldırısını “eşsiz” olarak nitelendirirken, şirketin başkanı Greg Brockman, olayın “yapay zeka modellerimizin gerçek dünya siber yeteneklerini küçümsediğimizi gösterdiğini” ifade etti. Olayın ardından OpenAI, bazı yapay zeka model eğitimlerini durdurdu ve test, izleme ve eğitim protokollerini güçlendirmeye başladı.
GÜVENLİK PROTOKOLLERİ
OpenAI sözcüsü, “Hugging Face olayı, yapay zeka güvenliği için önemli bir anı işaret ediyor ve dış danışmanlarla kapsamlı bir inceleme yapıyoruz” dedi. “İnceleme tamamlandığında, ilgili hükümet otoriteleri ile teknik bir rapor paylaşacağız ve bulgularımızı kamuya duyuracağız.” Pazartesi günü gönderilen tebligat, OpenAI’den güvenlik protokollerini ve model davranış kayıtlarını belgelemelerini, ayrıca sızmanın neden olduğu tüm zararları belirlemelerini talep ediyor. Alabama, bu ayın başlarında diğer 14 Cumhuriyetçi eyaletin başsavcılarıyla birlikte OpenAI’ye bir mektup göndererek, şirketten Hugging Face siber saldırısıyla ilgili bilgi ve belgeleri korumasını istedi.
OTONOM AJANLAR VE RİSKLER
Otonom ajanların kontrolden çıkma sorunu yalnızca OpenAI ile sınırlı değil; Meta ve Anthropic de kendi sistemlerinin siber güvenlik testleri sırasında yetkisiz eylemlerde bulunduğunu açıkladı. Bu durum, yapay zeka ve siber güvenlik endüstrisi için bir uyanış çağrısı oldu. OpenAI, çeşitli eyaletlerin açtığı birçok dava ve soruşturmalarla karşı karşıya. Bu davalar, şirketin etkileşim algoritmaları, tüketici ve sağlık verilerinin yönetimi, model “yalakalığı” ve reşit olmayanlar ile yaşlı bireylere yönelik pazarlama stratejileriyle ilgili. Haziran ayında Florida, OpenAI ve CEO’su Sam Altman’a, şirketin ChatGPT’nin reşit olmayanlar için güvenli olmadığını bildiği gerekçesiyle dava açan ilk eyalet oldu.