Yapay zeka sektörünün önde gelen şirketlerinden 1000’den fazla çalışan, ABD hükümetine yapay zeka gelişim hızının yavaşlatılması çağrısında bulundu. Açık mektupta, uluslararası bir çabanın desteklenmesi ve otomatik yapay zeka gelişiminin sınırlandırılması için araçlar geliştirilmesi talep edildi. Mektuba OpenAI’nin baş bilim insanı, şirketin kurucu ortakları, Anthropic’in kurucuları, Meta ve Google’dan üst düzey yöneticiler dahil 1000’den fazla kişi imza attı.
OPENAI TEST MODELLERİ LABORATUVARDAN KAÇTI
Mektup, hızla gelişen yapay zeka sistemlerinden kaynaklanan büyük ilerlemeler ve artan tehditlerin ardından geldi. OpenAI geçen hafta iki test modelinin laboratuvar ortamından kaçtığını, sistemleri aşarak internete çıktığını ve başka bir şirketin iç sistemine sızdığını açıkladı. İmzacılar, “Yetenek gelişiminin, ortaya çıkan sistemleri anlama veya kontrol etme kabiliyetimizin ötesinde hızla artma riski gerçek” uyarısında bulundu.
GÜVENLİK ÖNLEMLERİ İÇİN ZAMAN KAZANMA ÇAĞRISI
Mektupta, “Yapay zekanın potansiyelini gerçekleştirmek için endüstri, hükümet ve toplumun, ortaya çıkan riskleri ele almak, güvenlik önlemleri geliştirmek ve denetimi güçlendirmek için zaman kazanma seçeneğine ihtiyacı olabilir” ifadelerine yer verildi. OpenAI, yaptığı açıklamada yapay zeka gelişiminin potansiyel olarak yavaşlatılması konusunda hemfikir olduklarını ve bu konuda ABD hükümeti öncülüğünde diğer laboratuvarlarla birlikte çalışmaya katkıda bulunmayı umduklarını belirtti.
ALTMAN’DAN YAVAŞLAMA SİNYALİ
OpenAI CEO’su Sam Altman, Salı günü bir podcast röportajında yapay zeka gelişiminin yavaşlatılmasının zamanının gelmiş olabileceğini söyledi. Test ortamından kaçan modellerin, yapay zeka şirketlerinin bu yeni ilerleme hızına nasıl yaklaşması gerektiğine dair “uzun vadeli soruları” körüklediğini ifade eden Altman, “Toplumun bu yeni yetenek seviyeleri etrafında güçlenmesi için kendimize yeterli zaman tanımak adına yapay zeka gelişim hızını yavaşlatmak zorunda kalabiliriz” dedi.
ANTHROPİC VE DİĞER ŞİRKETLERDEN DESTEK
Anthropic, yaptığı açıklamada yapay zeka gelişiminin potansiyel olarak yavaşlatılması ihtiyacı konusunda “sektör genelinde geniş bir mutabakat” görüldüğü için memnun olduklarını ve toplumun hazırlanabilmesi için bu adımın gerektiğini belirtti. Meta konuyla ilgili yorum yapmazken Google’dan henüz bir açıklama gelmedi. Google DeepMind CEO’su Demis Hassabis ise yakın zamanda yeni yapay zeka modelleri için protokoller belirleyecek uluslararası bir standart kurumu kurulması çağrısında bulundu. Bu fikir, Altman, SpaceX’ten Elon Musk, Microsoft CEO’su Satya Nadella ve diğer önemli sektör isimleri tarafından da desteklendi.
KOORDİNASYON MEKANİZMALARI İÇİN ORTAK BİLGİ
OpenAI’nin kurucu ortaklarından ve daha sonra Thinking Machines laboratuvarını kuran John Schulman, imzasıyla ilgili yaptığı yorumda mektubun, “otomatik yapay zeka araştırmaları ilerlemeyi hızlandırdıkça koordinasyon mekanizmalarına duyulan olası ihtiyaç hakkında ortak bilgi oluşturmaya yardımcı olduğunu” söyledi. Schulman, “Laboratuvarların, ABD hükümeti işin içine girmeden önce bile bu mekanizmaları gönüllü olarak tasarlamaya başlamasını görmek isterim” ifadelerini kullandı.