Dario Amodei’nden Uyarı: “İnsanlığın Uyanması Gerek”

Anthropic’in CEO’su Dario Amodei, güçlü yapay zeka sistemlerinin yaratabileceği olumsuz sonuçlar hakkında “insanlığın uyanması gerektiğini” ifade etti. Amodei, yapay zeka sektöründe, OpenAI ile birlikte en hızlı gelişen oyunculardan biri olarak bilinmektedir. Yapılan bir analizde, Amodei’nin yaklaşık 20 bin kelimelik bir makalesine yer verildiği ve bu makalede teknoloji kontrolsüz bir şekilde ilerlerse kitlesel iş kayıpları ile biyoterörizm gibi risklerin ortaya çıkabileceğini açıkladığı belirtildi. Amodei, “İnsanlık hayal edemeyeceği kadar güç sahibi olmak üzere. Sosyal, politik ve teknolojik sistemlerimizin bunu kaldıracak olgunluğa sahip olup olmadığı belirsiz” dedi. Bu uyarı, yapay zeka alanındaki en etkili isimlerden biri tarafından dile getirilen ciddi bir alarm olarak değerlendiriliyor.

GÜÇLÜ YAPAY ZEKAYA DİKKAT

Amodei, makalesinde “güçlü yapay zeka”nın Nobel ödüllü bilim insanları, devlet adamları veya en yetenekli mühendislerden çok daha üstün sistemlerin birkaç yıl içinde ortaya çıkabileceğine dair öngörülerde bulundu. Bu yeni dönemin beraberinde getirebileceği riskler arasında biyolojik silah üretiminin bireyler tarafından yapılabilmesi, otoriter rejimlerin güçlenmesi, yapay zeka sistemlerinin “kontrolden çıkması” ve küresel totaliter bir diktatörlük ihtimali yer aldı. Amodei’ye göre en tehlikeli senaryolardan biri ise sıradan insanların yapay zeka aracılığıyla kitlesel olarak ölümcül patojenler geliştirebilmesi: “Bugün bir birey okul saldırısı yapabilir, ancak nükleer silah ya da salgın yaratamaz. Güçlü yapay zeka, onu bir virolog seviyesine yükseltebilir,” şeklinde konuştu.

JEOPOLİTİK ÇATIŞMALAR

Amodei, yapay zeka düzenlemeleri konusunda ABD’de, zaman zaman Donald Trump yönetimi ile çatışmalara girdi. Özellikle Trump’ın AI ve kripto danışmanı David Sacks ile düzenleme politikaları konusunda sık sık anlaşmazlık yaşadığı kaydedildi. Ayrıca Biden döneminde gündeme gelen gelişmiş çip ihracat kısıtlamalarına karşı sert eleştirilerde bulunan Amodei, Trump döneminin Çin’e ileri teknoloji çip satış planını “Kuzey Kore’ye nükleer silah satmakla eşdeğer” olarak değerlendirdi. Trump, geçen ay eyaletlerin AI şirketlerini düzenleme yetkisini sınırlayan bir başkanlık kararnamesi imzaladı ve yapay zeka yeniliklerini hızlandırmayı amaçlayan bir eylem planı duyurdu.

BÜYÜK EKONOMİK SARSINTI

Amodei, yapay zekanın önümüzdeki dönemde geniş çapta istihdam kayıplarına ve Silikon Vadisi’nde eşi görülmemiş bir ekonomik güç yoğunlaşmasına neden olabileceğini belirtti: “Tuzak şu: Yapay zeka o kadar güçlü ve göz kamaştırıcı bir ödül ki, insanlık buna neredeyse hiçbir kısıtlama getiremiyor.”

ŞİRKET ELEŞTİRİLERİ

Amodei, makalesinde isim vermeden Elon Musk’ın Grok AI projesi etrafındaki tartışmalara göndermede bulunarak, “Bazı AI şirketleri, modellerde çocukların cinsel içerikle bağdaştırılması konusunda bile rahatsız edici bir kayıtsızlık gösteriyor. Bu durum, gelecekteki otonomi risklerini yönetip yönetemeyecekleri konusunda beni şüpheye düşürüyor,” sözlerini kaydetti.

GÜVENLİK ENDİŞELERİ ARTIYOR

2023 yılında, biyolojik silahlar, otonom silahlar ve kötü niyetli devlet aktörleri gibi yapay zeka güvenlik endişeleri toplumsal tartışmalarda önemli yere sahip olmuştur. Aynı yıl İngiltere’de Bletchley Park’ta bir AI Güvenlik Zirvesi düzenlenmişti. Zirvenin ikincisi ise Şubat ayında Hindistan’da gerçekleştirilecek. Ancak Amodei’ye göre 2026 yılına gelindiğinde, siyasi karar alma süreçleri risk azaltmaktan çok fırsat yakalama odaklı hale gelebilir: “Teknoloji neyin modaya uygun olduğuyla ilgilenmiyor. 2026’da, 2023’ten çok daha gerçek bir tehlikenin yakınındayız.”

SEKTÖRÜN GELECEĞİ 350 MİLYAR DOLAR

OpenAI’den ayrıldıktan sonra 2020 yılında Anthropic’i kuran Amodei, şirketin daha güvenli ve kontrollü yapay zeka geliştirmesi gerektiğini savunuyor. Şu anda Anthropic, Microsoft, Nvidia, GIC, Coatue ve Sequoia gibi büyük yatırımcılarla 25 milyar doların üzerinde bir finansman turu için görüşmelere devam ediyor. Eğer görüşmeler sonuçlanırsa, şirketin değeri 350 milyar dolara ulaşabilir.