Anthropic şirketi kurucu ortağı Jack Clark ve enstitü lideri Marina Favaro’nun kaleme aldığı blog yazısı yayımlandı. Yazıda yapay zeka geliştirme sürecinin insanlardan sistemlere devredildiği belirtildi. Bu durum geliştirme hızını önemli ölçüde artırıyor.
YAPAY ZEKA KENDİ HALEFLERİNİ TASARLAYABİLECEK
Eğilimin devam etmesi halinde yapay zeka sistemleri kendi haleflerini tasarlayıp geliştirebilir. Yazıda bu süreç “özyinelemeli kendini geliştirme” olarak adlandırıldı. Henüz o noktada olunmadığı ancak çoğu kurumun hazırlandığından daha erken gerçekleşebileceği ifade edildi.
ÖZYİNELEMELİ GELİŞTİRME KONTROLÜ KAYBETTİREBİLİR
Teknik eğilimler yapay zeka sistemlerinin daha kabiliyetli hale geleceğini gösteriyor. Kendi kendini inşa edebilen yapay zeka bilim ve sağlık alanında fayda sağlayabilir. Ancak bu durum insanların kontrolü kaybetme riskini artırabiliyor. Yazıda sistemlerin haleflerini inşa etme kapasitesine sahip olması durumunda güvence yöntemlerinin daha önemli hale geldiği belirtildi.
GELİŞTİRME SÜRECİ GEÇİCİ OLARAK DURDURULABİLİR
Toplumsal yapıların teknolojik ilerlemeye uyum sağlaması için süreç yavaşlatılabilir. Yazıda birden fazla güçlü laboratuvarın aynı koşullar altında bunu gerçekleştirmesinin anlamlı olduğu kaydedildi.