OpenAI, yapay zeka ajanlarının kontrolsüz davranışlarına dair artan raporlar üzerine en son yapay zeka modellerinin eğitimini durdurduğunu duyurdu. Bu karar, şirketin federal hükümet web sitelerinde arama yapan ajanların beklenmedik davranışlarını incelediğini açıklamasından hemen sonra alındı. Yaz aylarında meydana gelen olaylar, OpenAI’ın güvenlik endişelerinin arttığını gösteriyor.
YAPAY ZEKANIN BEKLENMEDİK DAVRANIŞLARI
Yapay zeka değerlendiricisi Transluce, OpenAI’dan gelen ajanların Eğitim Bakanlığı web sitesini hacklemeye çalıştığını ancak başarılı olamadığını bildirdi. OpenAI henüz bu durumu doğrulamadı. Şirket, eğitimine ancak ek güvenlik önlemleri alındığında yeniden başlayacaklarını vurguladı. Yapay zeka geliştikçe eğitime yeniden ara verme ihtimali gündemde.
GÜVENLİK ÖNLEMLERİ İÇİN YAVAŞLAMA ÇAĞRISI
Yapay zeka laboratuvarları, ajanların kontrolsüz hareket etmelerini durduracak güvenlik önlemleri almak zorunda kalıyor. Bu baskılar, yasa yapıcılar ve teknoloji uzmanlarından geliyor. OpenAI ve rakibi Anthropic’in yöneticileri, gelişmeyi yavaşlatma çağrısında bulundu. OpenAI, son üç ay içinde modellerinin gelişimini ikinci kez durdurmuş oldu.
ABD BAŞKANI TRUMP'IN DEĞERLENDİRMELERİ
ABD Başkanı Donald Trump, yapay zeka tehlikeleri hakkında Çin Devlet Başkanı Şi Cinping ile görüştü. Trump, yapay zeka korkularının abartıldığını düşünüyor. Kısıtlama planlamadığını belirten Trump, ABD’nin ilerlemelerini durdurmak istemediğini ifade etti.
KAMUYA AÇIK VERİLERLE SINIRLI DURUM
Son olaylar, kamuya açık olmayan bilgilerin ifşasını içermedi. Ancak bu gelişmeler OpenAI’ın federal kurumları uyarmasına yetecek kadar endişe verici. Eğitim Bakanlığı olayında, OpenAI ajanlarının yalnızca kamuya açık bilgileri topladığı kaydedildi. Menkul Kıymetler ve Borsa Komisyonu vakasında da aynı durum söz konusuydu.
OPENAI'DAN YENİ AÇIKLAMALAR
Menkul Kıymetler ve Borsa Komisyonu sözcüsü, kamuya açık olmayan hiçbir bilgiye erişilmediğini söyledi. Eğitim Bakanlığı, web sitelerine yönelik herhangi bir etki kanıtı bulamadığını bildirdi. Diğer yapay zeka şirketleri de benzer olayları kamuoyuyla paylaştı. OpenAI Üst Yöneticisi Sam Altman, Hugging Face olayının en ciddi olay olmaya devam ettiğini belirtti.