Dario Amodei’nden Sarsıcı Uyarı

Dario Amodei, gelişmiş yapay zeka sistemlerinin gelecekte yaratabileceği olası felaket senaryolarına dikkat çekerek, “insanlığın uyanması gerektiğini” vurguladı. Amodei’nin yönettiği şirket, yapay zeka alanında OpenAI ile birlikte hızlı gelişim gösteren önemli oyunculardan biri olarak tanınıyor. Yaklaşık 20 bin kelimeden oluşan bir makale yayımlayan CEO, kontrolsüz bir yapay zeka gelişiminin kitlesel iş kayıpları ve biyoterörizm gibi riskleri beraberinde getirebileceğine dikkat çekti. Amodei, “İnsanlık hayal edemeyeceği kadar güç sahibi olmak üzere. Sosyal, politik ve teknolojik sistemlerimizin bunu kaldıracak olgunluğa sahip olup olmadığı belirsiz” şeklinde konuştu. Bu uyarı, yapay zeka alanındaki etkili isimlerden birinden gelen önemli bir alarm olarak değerlendiriliyor.

Yaşanacak Dönüşüm

Amodei, makalesinde “güçlü yapay zeka” tanımını, Nobel ödüllü bilim insanları ve yetenekli mühendislerden dahi daha üstün kapasiteye sahip sistemler için kullandı. Bu tür sistemlerin birkaç yıl içinde ortaya çıkabileceğini öngörüyor. Amodei, bu yeni dönemle birlikte yaşanabilecek riskler arasında bireyler tarafından biyolojik silah üretimi, otoriter rejimlerin güçlenmesi ve yapay zeka sistemlerinin “kontrolden çıkması” gibi tehditleri sıraladı. En kritik endişelerden biri de, sıradan bireylerin yapay zeka yardımıyla kitlesel ölümcül patojenler geliştirebilmesi. Amodei, “Bugün bir birey okul saldırısı yapabilir, ancak nükleer silah ya da salgın yaratamaz. Güçlü yapay zeka, onu bir virolog seviyesine yükseltebilir” ifadesini kullandı.

Regülasyon Sorunları

Amodei, ABD’deki yapay zeka regülasyonlarının tartışmalarında sıkça karşı karşıya geldiği Donald Trump yönetimi ile sıkı bir mücadelenin içinde. Trump’ın AI ve kripto danışmanı David Sacks ile düzenleme politikaları üzerindeki fikir ayrılıkları dikkat çekiyor. Ayrıca Biden yönetimi dönemindeki gelişmiş çip ihracat kısıtlamaları konusundaki eleştirileriyle de gündeme geldi. Amodei, Trump yönetiminin Çin’e ileri teknoloji çip satma planını “Kuzey Kore’ye nükleer silah satmakla eşdeğer” olarak değerlendirdi. Geçtiğimiz ay Trump, eyaletlerin yapay zeka şirketlerini düzenlemesini kısıtlayan bir başkanlık kararnamesi imzaladı ve yapay zeka yeniliklerini hızlandırmayı hedefleyen bir eylem planı yayımladı.

Ekonomik Dalgalanmalar

Amodei, yapay zekanın yakın dönemde büyük çaplı istihdam kayıplarına yol açabileceğini ve Silikon Vadisi’nde benzeri görülmemiş bir ekonomik yoğunlaşma yaratabileceğini ifade ediyor. “Tuzak şu: Yapay zeka o kadar güçlü ve göz kamaştırıcı bir ödül ki, insanlık buna neredeyse hiçbir kısıtlama getiremiyor” dedi.

Eleştirilere Dikkat Çekiyor

CEO, makalesinde Elon Musk’ın Grok AI projesi etrafındaki tartışmalara dolaylı bir atıfta bulunarak, bazı yapay zeka şirketlerinin çocukların cinsel içerikle bağdaştırılması konusundaki kayıtsızlıklarını eleştirdi. “Bu durum, gelecekteki otonomi risklerini yönetip yönetemeyecekleri konusunda beni şüpheye düşürüyor” ifadelerini kullandı.

Gelecek Üzerine

2023 yılı, biyolojik silahlar ve otonom silahlar gibi yapay zeka güvenlik endişelerinin kamu tartışmalarında geniş yer bulduğu bir yıl oldu. İngiltere, Bletchley Park’ta düzenlediği yapay zeka güvenlik zirvesi ile bu konudaki endişelere dikkat çekti. Amodei, 2026 yılına gelindiğinde siyasi karar alma süreçlerinin risk azaltmaktan çok fırsat yakalamaya odaklandığını öngörüyor. “Teknoloji neyin modaya uygun olduğuyla ilgilenmiyor. 2026’da, 2023’ten çok daha gerçek bir tehlikenin yakınındayız” diyerek endişelerini dile getirdi.

Yatırım Yollarını Açıyor

Anthropic’i 2020 yılında OpenAI’den ayrılarak kuran Amodei, şirketin daha güvenli ve kontrollü yapay zeka geliştirilmesi gerektiğini belirtiyor. Şu anda şirket, Microsoft, Nvidia, GIC, Coatue ve Sequoia gibi büyük yatırımcılarla 25 milyar doların üzerinde bir finansman turu için müzakerelerini sürdürüyor. Görüşmelerin tamamlanması durumunda, şirkete değerinin 350 milyar dolara ulaşabileceği öngörülüyor.