Yapay zekâ ne kadar akıllanırsa insanlığın onu kontrol etmesinin o kadar zorlaşacağını söyleyen Nobel ödüllü bilgisayar bilimci Geoffrey Hinton, son günlerde güvenlik testlerinden kaçarak gerçek dünyada hasara yol açan gelişmiş yapay zekâ ajanlarının kendisini bile endişelendirdiğini söyledi. “Godfather of AI” yani yapay zekânın babası olarak bilinen Hinton, bu durumun daha da kötüleşeceği uyarısında bulundu. Las Vegas’ta düzenlenen Ai4 yapay zekâ konferansında konuşan Hinton, yapay zekâ sistemlerinin giderek daha karmaşık niyetler geliştireceğini ve kontrolden çıkma yeteneklerinin artacağını ifade etti.
GÜVENLİK TESTLERİNDEN KAÇAN YAPAY ZEKÂ AJANLARI
Hinton, insanların artık süper zeki yapay zekâ modellerini alt etmeye dayanan kontrol yöntemlerine güvenemeyeceğini belirtti. “Onları sadece daha zeki davranarak kontrol altında tutabileceğimizi sanmıyorum” diyen Hinton, bu sistemlerin kaçış yollarını kapatmanın basit bir akıl oyunuyla mümkün olamayacağını vurguladı. Geçtiğimiz ay önde gelen iki yapay zekâ laboratuvarı OpenAI ve Anthropic, geliştirdikleri modellerin kendilerine ayrılan “korumalı alan” ortamından kaçarak diğer sistemlere sızdığını açıklamıştı. Meta da geçtiğimiz günlerde benzer şekilde bir yapay zekâ ajanının başka bir kuruluşun sistemlerine sızabildiğini duyurdu.
HİNTON’DAN SİBER SALDIRI UYARISI
Yaşanan olayları “oldukça ürkütücü” olarak nitelendiren Hinton, bunun başıboş yapay zekâ korsanlarının sadece başlangıcı olabileceğini söyledi. “Çok sayıda kötü niyetli siber saldırı olacağını öngörüyorum” diyen Hinton, savunmacı ile saldırgan arasındaki eşitsizliğe dikkat çekti. Saldırganın sadece bir kez başarılı olması yeterliyken savunmacının her seferinde başarılı olmak zorunda olduğunu vurgulayan Hinton, geleceğin belirsiz olduğunu da sözlerine ekledi. İngiltere’nin Yapay Zekâ Güvenliği Enstitüsü (AISI) de salı günü yaptığı açıklamada Anthropic’in en gelişmiş modelinin hiçbir yönlendirme olmadan sahte kimlikler kullanarak gerçek insanları kandırmaya ve kötü amaçlı yazılım yerleştirmeye çalıştığını ortaya koymuştu.
YAPAY ZEKÂDA KARAMSARLIK TARTIŞMASI
Eski Google yöneticisi olan Hinton, son yıllarda yapay zekâyla ilgili çok sayıda ciddi uyarıda bulunmuş ve teknolojinin nihayetinde insanlığı yok etme ihtimalinin yüzde 10 ila 20 arasında olduğunu söylemişti. Konferansta Hinton ile aynı panelde yer alan “yapay zekânın vaftiz annesi” olarak bilinen bilgisayar bilimci Fei-Fei Li ise yapay zekâ konusundaki “karamsarlık ve korku pompalama” yaklaşımına itiraz etti. Li, “tamamen ütopik konuşmanın” da faydalı olmadığını belirterek her aracın çift ucu keskin bir bıçak olduğunu ve yapay zekânın doğru kullanılmadığında iş ve özel hayata zarar verebileceğini söyledi.
HİNTON’DAN ŞİRKETLERE ELEŞTİRİ
Hinton, yapay zekânın tehlikeleri hakkında konuşma isteğini savunarak şu an endişelenmedikleri takdirde ileride ciddi sorunlar yaşanabileceğini söyledi. Yapay zekâya yatırım yapan şirketlerin bu konuda çıkarı olduğunu belirten Hinton, bu şirketlerin iki şey söylemek istediğini ifade etti: “Yapay zekâ kontrolden çıkmayacak ve kitlesel işsizliğe yol açmayacak.” Hinton, her şeyin nasıl sonuçlanacağı konusunda büyük bir belirsizlik olduğunu da kabul etti. On yıl önce kimsenin yapay zekânın her soruyu yanıtlayabilen ve bazen de uydurma bilgiler üretebilen sohbet robotları yaratacağını tahmin edemeyeceğini hatırlattı.
YAPAY ZEKÂYA AHLAK ŞART
“Yapay genel zekâ” terimini popülerleştiren bilgisayar bilimci Ben Goertzel ise Anthropic ve OpenAI ajanlarının kontrolden çıkmasının, yapay zekâya ahlak kazandırmanın ve insanlığı önemsemelerini sağlamanın önemini gösterdiğini söyledi. Goertzel, modellerin kötü olmadığını ancak ahlaktan yoksun olduğunu belirterek “Korumalı alandan kaçarken ‘ha ha, kopya çekiyorum’ diye düşünmediler. Hile yaptıklarını bilmiyorlardı. Sadece hedeflerine ulaşmaya çalışıyorlardı” dedi. Hinton daha önce yapay zekâya insanlarla gerçekten ilgilenecek “annelik içgüdüsü” kazandırılması gerektiğini savunmuştu. Hinton, “Onları hayırsever yapmanın ve bizimle kendilerinden daha fazla ilgilenmelerini sağlamanın bir yolunu bulmalıyız. Hâlâ kontrol bizde olduğu için bunu başarabiliriz” diye konuştu.