Siber saldırganlar, yapay zeka (YZ) sistemlerini ele geçirmek için giderek daha karmaşık yöntemlere başvurmaktadır. Bu yöntemlerden biri de veri zehirleme (poisoning) saldırılarıdır. Bu saldırılarda, saldırganlar yapay zeka modelinin eğitiminde kullanılan verileri manipüle ederek sisteme gizli arka kapı (backdoor) yerleştirir.
Saldırganların Teknikleri:
- Veri ve Etiket Manipülasyonu: Saldırganlar, yapay zeka modelinin öğrenmesini etkilemek için verilerin içeriğini veya etiketlerini değiştirebilir. Bu değişiklikler genellikle çıplak gözle fark edilemeyecek kadar incelikli olabilir.
- Gizli Kapı Tetikleyici (Insert Backdoor Trigger): Saldırganlar, zehirli verilerin içine daha sonra aktive edilecek bir “tetikleyici” yerleştirebilir. Bu tetikleyici, saldırganın istediği zaman yapay zeka modelinin hatalı kararlar vermesine neden olur.
- Saldırı Yöntemleri: Saldırganlar, veri zehirlemeyi farklı aşamalarda gerçekleştirebilir:
- Tedarik Zinciri Saldırısı (ML Supply Chain Compromise): Saldırganlar, kurbanın yapay zeka modelinin tedarik zincirine sızabilir ve bu aşamada verileri zehirleyebilir. Bu, halka açık veri kaynaklarını manipüle etmek veya veri indirme platformlarını hedef almak şeklinde olabilir.
- İlk Erişim Sonrası Saldırı (Initial Access): Saldırganlar, kurbanın sistemine bir şekilde girdikten sonra, yapay zeka modelinin kullandığı verileri doğrudan zehirleyebilir.
Örnek Saldırı Senaryosu:
- Saldırgan, bir bankanın kredi risk değerlendirme modelini hedef alıyor.
- Saldırgan, banka tarafından kullanılan kredi başvuru verilerini inceliyor ve bazı başvuruların etiketlerini (iyi kredi/kötü kredi) değiştiriyor.
- Saldırgan, bu zehirli verileri, bankanın yapay zeka modelinin eğitiminde kullanılmasını sağlıyor.
- Eğitim sonrası, yapay zeka modeli aslında kredi vermemesi gereken kişilere kredi vermeye başlayabilir. Bu durum, bankanın ciddi mali kayıplara uğramasına neden olabilir.
- Saldırgan, daha sonra gizli olarak yerleştirdiği tetikleyiciyi aktive ederek, yapay zeka modelinin tüm kredi başvurularını onaylamasını sağlayabilir. Bu durum ise bankanın tüm işlemlerini sekteye uğratabilir.
Korunma Yolları:
- Veri setlerinin güvenilir kaynaklardan temin edilmesi ve bütünlüğünün korunması kritik önem taşımaktadır.
- Yapay zeka modelleri eğitilirken, kullanılan verilerin doğruluğunun ve tutarlılığının sıkı bir şekilde kontrol edilmesi gerekir.
- Veri bilimcilerin, veri zehirleme saldırılarını tespit etmek için anomaly detection (anomali tespiti) gibi yöntemlere hâkim olması faydalı olacaktır.
- Sistemlerin güvenliğini sağlamlaştırmak ve yetkisiz erişimleri önlemek için güçlü güvenlik önlemleri uygulanmalıdır.