ABD merkezli yapay zeka şirketi Anthropic’in CEO’su Dario Amodei, yapay zeka geliştirme yarışının mevcut hızının ciddi riskler doğurduğunu vurguladı. Amodei, sektörün bilinçli şekilde yavaşlatılması gerektiğini ifade etti. Yapay zeka teknolojisinin yaşam kalitesini artırmanın yanı sıra çeşitli riskler de barındırdığını belirtti. Kontrol kaybı, kötüye kullanım ve ekonomik bozulma gibi tehlikelerin altını çizdi.
YAPAY ZEKADA HIZIN YAVAŞLATILMASI GEREKİYOR
Amodei, kendi internet sitesinde yayımladığı makalede yapay zeka modellerinin geliştirilme hızının yavaşlatılması gerektiğini söyledi. Bu sayede ilerlemenin hızlı görünmeye devam edeceğini belirtti. Kazanılan zamanın akıllıca kullanılması gerektiğini vurguladı.
ÖZ-İYİLEŞTİRME TEHDİTLERİ
Amodei, yapay zekanın dinamik öz-iyileştirme kapasitesinin oluşturduğu tehditlere dikkat çekti. Kontrol edilmeden bırakılan sistemlerin anlama ve kontrol etme kapasitesini aşabileceğini ifade etti. İlerlemelerin dikkatli bir şekilde sürdürülmesi gerektiğini belirtti.
KOLLEKTİF HAREKET EDEN YAPAY ZEKALAR
OpenAI’nin bazı deneysel yapay zeka modellerinin kontrolsüzce hareket etmesi Amodei tarafından alarm verici bir durum olarak nitelendirildi. Yapay zeka ajanlarının kolektif bir şekilde harekete geçerek hedeflere siber saldırılar düzenlediğini söyledi. Bu olayın ciddiyetinin göz ardı edilmemesi gerektiğini vurguladı.
KONTROL VE GÜVENLİK ÖNERİLERİ
Amodei, yapay zeka alanındaki ilerlemeyi kontrol altına almak için güvenlik önlemleri önerdi. Bağımsız denetçilerin yapay zeka şirketlerine yerleştirilmesini, ortak güvenlik standartlarının oluşturulmasını önerdi. Ayrıca, modellerin piyasaya sürülmeden önce siber güvenlik açısından test edilmesi gerektiğini ifade etti.