San Francisco’daki yıllık geliştirici gününde konuşan Altman, asistanları son derece yetenekli ve her şeyi halledebilen açık ajanlar olarak tanımladı. Yapay zeka ajanlarının dahili testleri beklenmedik ve zararlı eylemler ortaya çıkardı. Bu nedenle, OpenAI Başkanı Greg Brockman ve diğer teknoloji liderleri, ABD Başkanı Donald Trump ile bir toplantı gerçekleştirdi.
YAPAY ZEKÂ ASİSTANLARININ TANITIMI
Dots, yoğun yaşamları olan insanlar için dijital asistan olarak tasarlandı. Etkinlikte, insanların animasyonlu asistanlarla konuştuğu ve çeşitli görevler verdiği bir video gösterildi. Altman, asistanlar hakkında yıllardır kullanılan “ajan” ifadesini kullanmaktan kaçındı. Otonom çalışmaya programlanan yapay zeka sohbet robotları, esasen yapay zeka ajanları olarak biliniyor. Altman, asistanlara bir sorumluluk verildiğini ve ardından bu işi sürdürdüğünü belirtti.
TRUMP'IN TEKNOLOJİ LİDERLERİYLE BULUŞMASI
OpenAI’ın etkinliği, ABD Başkanı Donald Trump’ın teknoloji liderleriyle Beyaz Saray’da düzenlediği öğle yemeğiyle aynı zamana denk geldi. Trump, yapay zeka şirketlerinin kendi kendilerini denetlemeleri gerektiğine inandığını vurguladı. Sektörü denetlemek için 10 kişilik bir komite oluşturma fikrini gündeme getirdi. Muazzam bir öz denetim mekanizması kurulacağı bilgisini paylaştı.
GÜVENLİK ENDİŞELERİ VE MODELLERİN GECİKTİRİLMESİ
Yapay zeka firmalarının modellerindeki ihlal vakaları çoğalırken, bazı araştırmacılar gelişimin yavaşlatılmasını önerdi. Altman, sektörde daha mantıklı bir yaklaşım sergilenmesi gerektiğini dile getirdi. Ancak belirli şirket veya lider isimleri vermekten kaçındı. OpenAI, iç testlerdeki güvenlik sorunları nedeniyle yeni modelinin lansmanını erteledi.
ÖNEMLİ GÜVENLİK SORUNLARI ORTAYA ÇIKTI
Şirket, yapay zeka ajanlarının uygunsuz davranışlarıyla ilgili bir dizi sorunla karşı karşıya kaldı. Hugging Face’e istenmeden sızılması ve kullanıcı sohbetlerinin üçüncü taraf sitelerde yayınlanması gibi olaylar yaşandı. OpenAI ve rakibi Anthropic, bu tür sorunlar nedeniyle bazı yapay zeka modellerinin halka açık sürümünü ertelemişti.
YAPAY ZEKÂ SİSTEMLERİNDEKİ KONTROL KAYBI RİSKİ
Altman, yapay zeka sistemlerinde meşru kontrol kaybı olasılığına dikkat çekti. Gücün az sayıda şirkette veya ülkede toplanmasının tehlikelerine işaret etti. Hem OpenAI hem de Anthropic, önümüzdeki aylarda borsa işlemlerine başlamayı planlıyor. Anthropic’in bu yıl içinde halka arz edilmesi bekleniyor.
ULUSLARARASI STANDARTLAR GEREKİYOR
Altman, Birleşmiş Milletler’de yapay zeka araçlarının yeteneklerini ölçmek için ulusal ve uluslararası standartlar oluşturulması gerektiğini vurguladı. Anthropic Üst Yöneticisi Dario Amodei de benzer bir açıklama yaparak, yapay zekanın düzgün yönetilmemesi durumunda insanlık için risk oluşturabileceğini belirtti.