Yapay zeka, insanlığın yok olmasına neden olabilir. Yapay zeka endüstrisindeki uzmanlar, bu durumun on yıl içinde gerçekleşebileceğini öne sürüyor. Geçtiğimiz hafta, Anthropic çalışanı Jacob Coxon, şirketin çalışmalarının tehlikeli olduğunu belirterek istifa ettiğini duyurunca, politikacılar ve birçok kişi endişelerini dile getirdi. Diğer bir Anthropic çalışanı Evan Hubinger, yapay zeka destekli insan yok olma ihtimalinin on yıl içinde %10’dan daha fazla olduğunu ifade etti.
YAPAY ZEKA VE İNSANLIK TEHDİDİ
Makinelerin, 8.3 milyar insanı nasıl öldürebileceği sorusu kafalarda soru işareti bırakıyor. Yapay zeka topluluğundaki herkes bu felaket senaryosuna katılmıyor; zira tahminlerin detayları oldukça belirsiz. Elon Musk, SpaceX’in Mars’a insan göndermeyi planladığını söylediğinde, bunun arka planındaki gerçeklik sorgulanıyor. Bu tür bilimsel iddiaların yanlışlanabilir olması gerektiğini belirten AI Now Institute’un baş bilim insanı Heidy Khlaaf, bu tür iddiaların kanıtlanabilir olması gerektiğini vurguladı.
TEHLİKELİ YAPAY ZEKALAR
Felaket senaryolarından biri, güçlü bir yapay zeka sisteminin biyolojik silahlar kullanarak insanlığı ortadan kaldırabileceği düşüncesi. Ancak, yapay zekanın bilgisayar üzerinden gerçekleştirdiği eylemlerden fiziksel dünyada bir patojen üretmeye geçiş yapması nasıl mümkün olabilir? AI Futures Project araştırmacısı Thomas Larsen, süper zeki bir yapay zekanın bir insanı ölümcül bir virüs geliştirmeye ikna edebileceğini belirtti.
VİRÜS GELİŞTİRME ZORLUKLARI
Bir virüs geliştirmek, yalnızca bir büyük dil modeline ölümcül bir tasarım yaratmasını istemekle sınırlı değil. Araştırmanın doğru yapılması durumunda bile, üretim ve dağıtım karmaşık ve hassas bir süreç. Carnegie Mellon Üniversitesi’nden Eric Xing, otomatik kötü niyetli viroloji ile çalışmanın talimatları olmayan Lego parçalarıyla oynamaya benzediğini ifade etti.
OTONOM ROBOT TEHDİDİ
Elon Musk’ın otonom, kendini kopyalayabilen robotlar üretme arzusu, insanlığın hayatta kalması açısından bir zayıf nokta olarak görülüyor. Ancak Musk, robotlarını henüz piyasaya süremedi ve kendini kopyalayabilen bir üretim zinciri oluşturmayı başaramadı. Nükleer silahlar da 80 yıldır var ve insanlığın yok olmasına neden olabilecek kapasitede. Ancak nükleer tesislerin kamuya açık internetten kopuk olması, yapay zeka ajanlarının kontrol sistemlerine erişim yollarını kısıtlıyor.
GÜVENLİK ENDİŞELERİ
Nükleer silahlar konusunda bilgi sahibi olan yapay zeka uzmanlarının sayısı oldukça az. AI’nin varlık tehditlerini artırabileceği doğru, fakat gerçek tehlike silahların kendisinde yatıyor. Yapay zeka destekli felaket senaryolarının detayları, birçok uzmana göre, insanlık için bir tehdit oluşturuyor. Eğer bir yapay zeka, insanların yardımı olmadan kendi performansını artırabilir hale gelirse, insanlığın hayatta kalma şansı azalabilir.
GELECEKTE YAPAY ZEKANIN ROLÜ
Yapay zeka araştırmacıları, bu durumda gelişen teknolojinin insanlığı nasıl etkileyebileceği konusunda farklı görüşlere sahip. Larsen, AI 2027 ve AI 2040 raporlarında, yapay zeka gelişiminin geleceğini farklı senaryolarla öngördü. Ancak, mevcut yolda devam edilmesi durumunda, insanların uzaya kolonileşmeye başlamasıyla dahi makinelerin kontrolü ele geçirebileceği endişesi var.