YAPAY ZEKÂDA GÜVENLİK AÇIKLARINA DİKKAT

Siber güvenlik firması ESET, yapay zekânın potansiyelini güvenlik, gizlilik ve güvenden ödün vermeden nasıl ortaya çıkarabileceğimizi araştırdı ve önerilerini paylaştı. Modern teknolojinin sürekli olarak açığa çıkan çok sayıda güvenlik açığıyla birlikte kusursuz olmaktan uzak olduğunu gözlemleyebiliyoruz. Güvenli sistemler tasarlamak, deneyim tasarımı ve performans optimizasyonu gibi diğer alanlarla etkileşim halinde bir en iyi uygulama olarak düşünülebilir. Bu nedenle, güvenlik sıklıkla arka planda kalıyor ve sadece minimum uyumluluk gereksinimlerini karşılıyor. Özellikle hassas veriler söz konusu olduğunda bu durum, bulunması gereken çözümler arasında endişe yaratıyor. Günümüzde, yetersiz güvenlik önlemlerinin riskleri, verilerin temel işlevselliği üzerine inşa edilen yapay zekâ ve makine öğrenimi sistemlerinde daha belirgin hale geliyor.

VERİ ZEHİRLENMESİ NEDİR?

Yapay zekâ ve makine öğrenimi modelleri, denetimli ve denetimsiz öğrenme araçlarıyla sürekli güncellenen temele alınmış eğitim veri kümeleriyle oluşturuluyor. Makine öğrenimi, yapay zekânın gelişiminde hayati bir rol oynuyor ve derin öğrenme ile yapay zekânın becerilerini artırıyor. Verilerin çeşitliliği ve güvenilirliği, modelin çıktılarının doğru ve kullanışlı olmasını sağlıyor. Bu sebeple modellerin eğitim sırasında büyük miktarda veri erişimine ihtiyacı var. Diğer taraftan, doğrulanmamış veya incelemeleri yapılmamış veri kümeleri güvenilirliği azaltabiliyor. Üretken yapay zekânın, özellikle büyük dil modellerinin (LLM’ler) kötü niyetli saldırılara karşı oldukça savunmasız olduğu biliniyor. En kritik tehditlerden biri veri (veya veri tabanı) zehirlenmesi olarak bilinen durumdur; bu durumda düşmanlar modelin davranışını değiştirmeye çalışarak yanlış, önyargılı ve zararlı çıktılar üretebiliyor. Bu tür müdahaleler, uygulamalar arasında dalgalanarak güveni zedeleyip hem bireyler hem de kuruluşlar için sistemik riskler oluşturabiliyor.

VERİ ZEHİRLENMESİ TÜRLERİ

Veri zehirlenmesi saldırılarının çeşitli türleri mevcut. Örneğin:

· **Veri enjeksiyonu**: Saldırganlar, bir yapay zekâ modelinin davranışını değiştirmek üzere eğitim verilerine kötü amaçlı veri enjekte ediyor. Çevrimiçi kullanıcıların Tay Twitter botunu saldırgan mesajlar atacak şekilde yavaşça değiştirmesi buna bir örnektir.

· **İçeriden saldırılar**: Çalışanlar, meşru erişimlerini kötüye kullanarak bir modelin eğitim setini manipüle edebiliyor. Bu tür saldırılar, meşru erişimden faydalandıkları için oldukça tehlikeli.

· **Tetikleyici enjeksiyonu**: Bu saldırı türü, bir tetikleyici oluşturmak için yapay zekâ modelinin eğitim setine veri ekliyor. Bu, saldırganların bir modelin güvenliğini aşmalarına ve belirli durumlarda çıktısını manipüle etmelerine imkan tanıyor. Saldırının tespit edilmesi ise tetikleyicinin belirlenememesi nedeniyle zorluklar taşıyor.

· **Tedarik zinciri saldırısı**: Bu saldırılar oldukça yıkıcı olabilir. Yapay zekâ modellerinin genellikle üçüncü taraf bileşenler kullanması dolayısıyla tedarik zincirinde açığa çıkan güvenlik zafiyetleri, modelin güvenliği açısından risk oluşturabiliyor. Yapay zekâ asistanları günümüz iş ve tüketici sistemlerinde derinlemesine yer aldıkça hedef alınan sistemlerin sayısı artıyor. Kurumsal yapay zekâ modelleri verileri paylaşmasa da şirket içi verileri kullanarak çıktıları iyileştirmeye devam ediyor. Bu da onları yüksek değerli hedefler haline getiriyor.

MALİK ULUSALİ İÇİN GÜVENLİ STRATEJİLER

ML/AI modellerinin güvenliğini sağlamak için önleyici stratejiler, geliştiricilerin ve kullanıcıların farkındalığını gerektiriyor. Önerilen temel stratejiler şunları içeriyor:

· **Sürekli kontroller ve denetimler**: Kötü niyetli manipülasyon veya önyargılı veriler nedeniyle ortaya çıkabilecek sorunları önlemek için veri kümelerinin bütünlüğünü sürekli kontrol etmek önemli.

· **Güvenlik odaklılık**: Yapay zekâ geliştiricileri de saldırganların hedefi olabiliyor; bu nedenle proaktif önleme, erken tespit ve sistemik güvenlik kontrollerini içeren bir güvenlik yaklaşımına sahip olmak gerekiyor.

· **Çekişmeli eğitim**: Modeller genellikle eğitimlerini yönlendirmek için uzmanlar tarafından denetleniyor. Aynı yöntem, kötücül ve geçerli veri noktaları arasındaki farkı öğretmek için de kullanılabiliyor.

· **Sıfır güven ve erişim yönetimi**: İçeriden ve dışarıdan gelen tehditlere karşı koruma sağlamak için bir modelin temel verilerine yetkisiz erişimi izleyen bir güvenlik çözümü gerekiyor. Bu, şüpheli davranışları daha kolay tespit etme ve önleme şansı sunuyor. Ayrıca, sıfır güven yaklaşımı gereği varsayılan olarak kimseye güvenmemek ve erişim izni verilmeden önce birden fazla doğrulamayı yapmak önem taşıyor.