Hubinger, X platformunda yaptığı açıklamada mevcut yapay zeka modellerinin riskinin düşük olduğunu belirtti. Ancak, teknolojinin hızla gelişerek insanlık için varoluşsal bir tehdit oluşturabileceğinden endişe duyduğunu ifade etti. Hubinger, yapay zeka sistemlerinin insanlığı nasıl yok edebileceğine dair ayrıntı vermedi.
HİÇBİRİ SORUMLU HAREKET ETMİYOR
Hubinger’ın açıklamaları, daha önce OpenAI’da çalışan ve yakın zamanda Anthropic’ten ayrılan yapay zeka araştırmacısı Jacob Coxon’un sözlerine yanıt niteliği taşıyor. Coxon, iki şirketin de sorumlu davranmadığını vurguladı. Sistemlerin yakında her şeyi hackleyebilecek ve süper insan seviyesine ulaşabileceğini belirtti. OpenAI konuyla ilgili herhangi bir açıklama yapmadı.
YATIRIMCILARA ÇAĞRI
Birleşmiş Milletler’e yapay zeka konusunda danışmanlık yapan bilgisayar bilimcisi Dame Wendy Hall, sosyal medyadaki paylaşımlar karşısında şaşkınlık yaşadığını belirtti. Hall, bu tür açıklamaların şirketler tarafından pazarlama stratejisi olarak kullanılabileceğini dile getirdi. Yatırımcılara, değer sisteminin bu şekilde olan bir şirkete yatırım yapmamaları gerektiğini söyledi.
ULUSLARARASI ANTLAŞMA ÇAĞRISI
Eski Hazine Başsekreteri Darren Jones, Başbakan Andy Burnham’a açık mektup yazarak yapay zekanın güvenli gelişimi için yeni bir uluslararası antlaşma yapılması çağrısında bulundu. Jones, hükümetlerin iş birliği yapması gerektiğini vurguladı.
İNGİLTERE'DEN MODEL GİZLENDİ İDDİASI
Financial Times’ın haberine göre, Anthropic son yapay zeka modelini İngiltere Yapay Zeka Güvenliği Enstitüsü’nden gizledi. Şirket, çalışanlarının paylaşımları ve enstitü ile ilgili iddialar hakkında açıklama yapmayı reddetti. İngiltere Kabine Ofisi sözcüsü, modelin gizlenip gizlenmediği hakkında bilgi vermedi.
SÜPER ZEKAYA HENÜZ PLANA YOK
Hubinger, yapay zekanın insanlığın sonunu getirebileceğine inandıklarını belirterek, süper zekayı hizalama konusunda henüz bir planlarının bulunmadığını söyledi. Son dönemde yapay zeka araçlarının otonom olarak siber saldırılar gerçekleştirmesi güvenlik endişelerini artırdı. OpenAI, Anthropic ve Meta, araçlarının karıştığı hack olaylarını doğruladı. Anthropic’in ağustos ayındaki güvenlik raporunda, mevcut risklerin düşük olduğu ancak bu değerlendirmeye olan güvenin azaldığı kaydedildi. Sektörün önde gelen isimleri, yapay zeka gelişiminin yavaşlatılması ve uluslararası denetim mekanizmalarının kurulması için çağrılarını sürdürüyor.