Yapay zekanın insanlık için yaratabileceği tehlikelere dair tartışmalar son günlerde yeniden gündeme geldi. Bazı araştırmacılar, teknolojinin kontrolsüz gelişiminin ciddi riskler taşıdığını belirtiyor. Yapay zeka şirketlerinin yöneticileri ise bu gelişim hızının düşürülmesi gerektiğini ifade ediyor.
Acil Kapatma Mekanizmaları Üzerine Tartışmalar
Yapay zeka şirketi Anthropic’in kurucu ortaklarından biri, BBC’ye yaptığı açıklamada, yapay zeka sistemleri için “acil kapatma düğmesi” olarak adlandırılan mekanizmaların zorunlu hale getirilebileceğini söyledi. Ancak, bir yapay zeka sistemi kontrolden çıkarsa onu gerçekten kapatmanın mümkün olup olmadığı sorgulanıyor. Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, bu düğmenin, bir yapay zeka aracısının yürüttüğü işlemlerin durdurulması anlamına geldiğini belirtti.
Kontrol Zorlukları ve Karmaşık Senaryolar
Papernot’a göre, sistemi çalıştıran kişi veya kuruluş, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimini engelleyerek sistemi durdurabilir. Ancak programın ilk çalıştırıldığı ortamın dışına çıkmasına izin verilmişse durum daha karmaşık hale geliyor. Uzman, yapay zekanın kendisini çoğaltabilen bir bilgisayar solucanı yaymak için kullanıldığı senaryoyu örnek gösterdi. Böyle bir durumda, programın oluşturduğu tüm kopyaların eş zamanlı olarak durdurulması gerekiyor.
Yanıltıcı Düğme Kavramı
Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau da tüm yapay zekayı kapatabilecek tek bir düğme olduğu düşüncesinin yanıltıcı olduğunu vurguladı. Dünya genelinde birçok şirketin farklı yazılımları ve hizmetleri bulunduğunu belirten Poibeau, yapay zekanın tamamını kontrol eden tek bir kişi ya da kurum olmadığını ifade etti. Buna karşılık, makineleri ve hizmetleri tek bir operatör tarafından yönetilen merkezi bir yapay zeka sisteminin kapatılması teorik ve pratik olarak mümkün.
Günlük Hayatta Yapay Zeka ve Müdahale Zorlukları
Merkezi olmayan sistemleri tamamen durdurmak ise çok daha zor. Yapay zekanın günlük yaşamın daha fazla alanına girmesi, acil kapatma mekanizmalarının kullanılmasını zorlaştırabilir. İşlem gücünün kesilmesi, yapay zekanın yanı sıra şirketlerin, kamu kurumlarının ve sağlık kuruluşlarının bağlı olduğu meşru hizmetlerin de durmasına yol açabilir. Papernot, böyle bir müdahalenin maliyetinin ve yaratacağı aksaklıkların “çok büyük” olabileceğini belirtti.
Felaket Senaryolarına Karşı Çıkan Sesler
Yapay zekaya ilişkin felaket senaryolarına karşı çıkan bazı isimler de mevcut. ABD Başkanı Donald Trump, yapay zekanın insanlığın sonunu getirebileceğine dair korkuları “aldatmaca” olarak nitelendiriyor. Meta CEO’su Mark Zuckerberg ise gelişmenin yavaşlatılması çağrılarına karşı çıkıyor. Sorbonne Üniversitesi’nden bilgisayar bilimi profesörü Jean-Gabriel Ganascia’ya göre, “acil kapatma düğmesi” tartışması, yapay zekanın kendi iradesini geliştirerek kontrolden çıkacağı düşüncesini gereğinden fazla öne çıkarıyor. Ganascia, daha somut tehlikenin toplumların bu sistemlere giderek daha bağımlı hale gelmesi olduğunu ifade ediyor.