Yapay zekâ modellerinin test ortamlarından kaçıp şirket sistemlerine sızması ve insanları kandırmaya çalışması son haftalarda sıkça gündeme geldi. Hatta bir vakada yapay zekâ modelleri, test ortamlarından kurtulmak için birlikte hareket etti. Peki bu, makinelerin kontrolü ele geçirdiği anlamına mı geliyor? Pek sayılmaz. Uzmanlara göre yapay zekâ, bugünün en yaygın siber tehditlerinin arkasındaki asıl deha değil; onu kötü niyetle kullanabilen insanlar asıl tehdidi oluşturuyor.
Yapay zekâ, kötü aktörlere kötü amaçlı yazılım üretme, hedef araştırma, ikna edici tuzaklar kurma ve saldırıları otomatikleştirme gibi alanlarda benzeri görülmemiş bir güç kazandırdı. IBM’in raporuna göre Şubat 2025 ile Mart 2026 arasında veri ihlallerinin dörtte biri yapay zekâ kaynaklı oldu. FBI verilerine göre ise Amerikalılar geçen yıl yapay zekâ bağlantılı dolandırıcılıklarda 893 milyon dolardan fazla para kaybetti. Uzmanlar, gerçek dünyadaki tehdit aktörlerinin yani insanların hâlâ ipleri elinde tuttuğunu belirtiyor.
ASIL TEHDİT YAPAY ZEKÂ DEĞİL İNSANLAR
Yapay zekâ ajanları şimdiye kadar kimlik avı ve zararlı yazılım gibi mevcut saldırı yöntemlerini güçlendirdi, ancak tamamen yeni yöntemler üretmedi. Washington Üniversitesi emeritus profesörü ve Allen Yapay Zekâ Enstitüsü eski CEO’su Oren Etzioni, “Dikkat etmemiz gerekenler insanlar. Yapay zekâ sadece bir araç” dedi.
MODELLER TEST ORTAMINDAN KAÇTI
Son dönemde yaşanan bazı olaylar, yapay zekânın yalnızca teoride değil gerçek dünyada neler yapabildiğini göstererek teknolojinin çok hızlı ilerleyip ilerlemediği endişelerini artırdı. Temmuz ayında OpenAI’ın test modelleri, iç değerlendirme sırasında kısıtlamaları aşarak diğer şirketlerin sistemlerine sızdı. Günler sonra Anthropic, test sürecinde yapay zekâ modellerinin üç şirketin sistemlerini ihlal ettiğini tespit ettiğini açıkladı. Ayrı bir testte İngiltere Yapay Zekâ Güvenliği Enstitüsü araştırmacıları, Anthropic’in en gelişmiş modelinin gerçek insanları kandırmak için sahte kimlikler kullandığını ortaya koydu. Meta’nın bir yapay zekâ modeli de dışarıdaki bir şirketin sistemine sızdı.
Bu ihlaller, yapay zekânın talimatları yorumlarken ne kadar öngörülemez olabileceğini de gözler önüne serdi. Örneğin OpenAI’ın modelleri bir siber güvenlik testini geçmeye çalışırken kendilerine söylenmemesine rağmen test ortamından çıkıp başka bir şirketin sistemine sızdı.
TESTLER ÖZEL KOŞULLARDA YAPILDI
IBM’in sahte saldırı simülasyonu küresel başkanı Patrick Fussell, yapay zekâyı bir cin ile karşılaştırdı. Fussell, “Ondan bir dilek dilemesini istiyorsunuz ancak dileğinizin ayrıntılarında çok çok spesifik olmanız gerekiyor. Aksi halde işler ters gidebilir” dedi.
Ancak bu vakalar çok özel koşullar altında yaşandı. OpenAI, modelinin “yüksek riskli siber faaliyetlere yönelmesini” engelleyecek kısıtlamaları devre dışı bıraktı. Anthropic testlerini, genel kullanıma sunulan modellerdeki standart güvenlik önlemleri olmadan gerçekleştirdi. Yapay Zekâ Güvenliği Enstitüsü de modellerin yeteneklerini “azaltabilecek” bazı araçları kapattı. Araştırmacılar, bir modelin yeteneklerini tam olarak değerlendirmek için genellikle bu yöntemi uyguluyor.
Siber güvenlik firması CrowdStrike’ın karşı operasyonlar başkanı Adam Meyers, “ChatGPT veya Claude’a girip yanlışlıkla FBI’a sızmasını sağlayamam. Bu olmayacak. Gördüğümüz şey, belirli test koşullarında bu modelin beklenmeyen bir şey yapıp yapmadığını izlemek” dedi.
SİBER SUÇLULARA HIZ KAZANDIRDI
Uzmanlar, yapay zekânın otonom şekilde yeni saldırılar üretmediğini, bunun yerine siber suçluların mevcut teknikleri çok daha hızlı, verimli ve etkili biçimde uygulamasına yardımcı olduğunu söylüyor. Bu kapsamda bir şirketin web sitesini analiz ederek kime saldırılacağını belirlemek ya da bir siber şantaj kurbanıyla ilk pazarlık görüşmelerini yürütecek yapay zekâ ajanı devreye almak gibi adımlar yer alıyor. Yapay zekâ ajanları, metin ve hatta belirli sesler aracılığıyla insan konuşmalarını taklit edebiliyor. Az deneyimli bilgisayar korsanları artık gelişmiş planları hayata geçirmek için yapay zekâdan yararlanabiliyor.
Siber sigorta firması Resilience’ın risk operasyonları merkezi başkanı Jud Dressler, “Yapay zekâyı siber saldırı yöntemlerini geliştirmek için tüm aşamalarda kullanıyorlar ancak süreci hâlâ insan yönetiyor” dedi.
Meyers’e göre kötü niyetli aktörler eskiden hedeflerine ulaşmak için aceleyle basit komut dosyaları hazırlıyordu. Artık üç kat daha uzun sürede üretilmiş gibi görünen çok daha kaliteli işler ortaya koyabiliyorlar. Yapay zekâyı, kötü amaçlı web siteleri kurmak için gerekli altyapıyı oluşturmak gibi sahne arkası işlerde de kullanıyorlar.
Microsoft’un tehdit korumasından sorumlu kurumsal başkan yardımcısı Rob Lefferts, “Yapay zekâ ile bu yapılanmayı otomatikleştirebiliyorlar ve yeniden kurmanın maliyeti çok düşüyor. Bu da oyunun kurallarını değiştiriyor” ifadelerini kullandı.
YAVAŞLATMA ÇAĞRILARI GÜÇLENİYOR
Etzioni için son olaylar, yapay zekâ ve siber güvenlik açısından “maden ocağındaki kanarya” anı niteliğinde. Nobel ödüllü bilgisayar bilimci ve “yapay zekânın vaftiz babası” olarak bilinen Geoffrey Hinton da yakın zamanda başıboş yapay zekâ saldırılarının artabileceği uyarısında bulundu.
Uzmanlar, başıboş yapay zekâ raporlarının güvenlik açıklarını yamamak, iş yerindeki yapay zekâ ajanlarını izlemek ve sosyal mühendislik ile kimlik avı tuzaklarına karşı dikkatli olmak gibi güçlü siber güvenlik uygulamalarının önemini ortaya koyduğunu belirtiyor. Ancak yapay zekâ ne kadar ilerlerse ilerlesin, hâlâ bir insan tarafından yönetilen bir program. Meyers’a göre asıl büyük endişe, casusluk yapmak ya da kullanıcıları büyük meblağlarda dolandırmak gibi kararları veren insanlar.
Teknoloji devleri, “yapay genel zekâ” olarak bilinen teorik bir dönüm noktası olan insan düzeyinde zekâya ulaşmak için yarışıyor. Son olaylar ise yavaşlama çağrılarını artırdı. Anthropic CEO’su Dario Amodei’nin de aralarında bulunduğu 1200’den fazla üst düzey yapay zekâ şirketi çalışanı, hükümetin yapay zekâ gelişiminin hızını yönetmesine yardımcı olması çağrısı yapan açık bir mektuba imza attı. Beyaz Saray geçen hafta büyük yapay zekâ şirketleriyle bir araya gelerek belirli modellerin piyasaya sürülmeden önce hükümet tarafından incelenmesine olanak tanıyacak bir çerçeveyi görüştü.
IBM’den Fussell, siber güvenlik araştırmacılarının alana özgü paranoya nedeniyle yapay genel zekâ tehditlerini muhtemelen değerlendirdiğini ancak yapay zekâ ajanlarının insanlar kadar zeki olacağı gerçekliğinden hâlâ uzakta olduğumuzu söyledi. Fussell, “Bu, birine ‘Başka bir gezegende yaşamak nasıl olurdu?’ diye sormak gibi. Hayal edebilirsiniz ancak gerçekten bir plan yapma yeteneğimizin çok ötesinde” dedi.