Yapay zeka modelleri o kadar hızlı gelişiyor ki yakında insan müdahalesi olmadan kendi kendilerini geliştirebilecek noktaya ulaşabilir. Bu durum karşısında Anthropic, yapay zeka endüstrisine bir “fren pedalı” inşa etmeleri gerektiği uyarısında bulundu. Şirket yetkililerine göre aksi takdirde yaratıcılar, ürettikleri sistemlerin kontrolünü kaybetme riskiyle karşı karşıya kalabilir.
KENDİ KENDİNİ GELİŞTİREN YAPAY ZEKANIN RİSKLERİ
Anthropic Enstitüsü lideri Marina Favaro ve şirketin kurucu ortağı Jack Clark tarafından kaleme alınan blog yazısında, “tam özyinelemeli kendini geliştirme” olarak adlandırılan bu sistemlerin bilim ve sağlık alanında büyük faydalar sağlama potansiyeli taşıdığı ancak insanlık için ciddi riskler de barındırdığı vurgulandı. Yazarlar, “Tam özyinelemeli kendini geliştirme, insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabilir. Sistemler kendi haleflerini tamamen inşa edebilecek duruma gelirse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir” ifadelerini kullandı.
TEKNOLOJİ ŞİRKETLERİNE YAVAŞLAMA ÇAĞRISI
Uzmanlar, sektörün kendi kendini geliştiren yapay zekaya daha önce tahmin edilenden çok daha yakın olduğu uyarısında bulundu. Bu nedenle teknoloji şirketlerinin, araştırmacılara potansiyel toplumsal zararları daha iyi anlamaları için zaman tanımak amacıyla öncü yapay zeka geliştirmeyi yavaşlatması ya da geçici olarak durdurması gerektiği belirtildi. Araştırmacılar ayrıca işlerin kontrolden çıkması durumunda insanların müdahale edebileceği bir mekanizma geliştirmeye çağrıldı.
SEKTÖRÜN ACİLEN BİR FREN PEDALINA İHTİYACI VAR
Clark, katıldığı bir programda sektörün kendine bir “fren pedalı” vermesi gerektiğini söyledi. Bir röportajda “Kullandığımız arabaya baktığımda gördüğüm tek şey bir gaz pedalı. Fren pedalı yok ve gelecekte bir noktada bu seçeneğe ihtiyaç duyabiliriz” diyen Clark’a, yapay zekanın insanları öldürmek için ayağa kalktığı bilim kurgu filmleri hatırlatıldı. Clark bu soruya “Evet, biz de bilim kurgu okuyoruz ve izliyoruz, bu konular bize yabancı değil” yanıtını verdi. Daha önce sahip olunanlardan çok daha büyük ve hızlı bilim insanı filoları üzerinde nasıl kontrol sağlanacağı sorusunu gündeme getiren Clark, yapay zekanın davranışını doğrulama, onaylama ve ona güvenme konusundaki yetersizliğin geliştirme sürecinde büyük bir risk oluşturduğunu ekledi.
HALKA ARZ SÜRECİ VE İŞBİRLİĞİ ÇAĞRISI
Bu uyarı, Anthropic’in halka arz başvurusu yapmasının ardından geldi. Bu adımın, yapay zeka için gerekli veri merkezleri ve bilgisayarların inşasını hızlandırmak amacıyla yatırımcılardan on milyarlarca dolar toplanmasını sağlayabileceği belirtiliyor. Roket ve uydu işinin yanı sıra yapay zeka alanında da faaliyet gösteren SpaceX’in ise önümüzdeki hafta 75 milyar dolar toplayarak tarihin en büyük halka arzını gerçekleştirmesi bekleniyor. Anthropic, SpaceX ve OpenAI gibi büyük yapay zeka şirketlerinin fren pedalı geliştirmek için bir araya gelmesi, trilyonlarca doların söz konusu olduğu rekabetçi bir iş dünyasında kulağa çelişkili gelse de Clark bunun mümkün olduğunda ısrar etti. Soğuk Savaş’ın zirvesinde rakip ülkeler arasındaki gergin koşullar altında bile nükleer silahlanma yarışının bazı yönlerini istikrara kavuşturmanın yollarının bulunduğunu hatırlatan Clark, “Tüm bunlar daha önce başka alanlarda yapıldı ve bunu yapay zeka alanında da yapmamız gerekebilir” dedi.