Siber saldırganlar, yapay zeka (YZ) sistemlerini aldatmak için giderek daha gelişmiş yöntemler kullanmaktadır. Bu yöntemlerden biri “adversarial data” (aldatıcı veri) kullanımıdır. Saldırganlar, yapay zeka modellerinin öğrenme sürecini bozarak onları yanlış kararlar vermeye zorlar.
Aldatıcı Verinin İşleyişi:
- Saldırganlar, insan gözüyle bakıldığında normal görünen ancak yapay zeka modeli tarafından yanlış sınıflandırılan veriler oluşturur. Bu veriler, yapay zeka modelinin eğitim aşamasında veya gerçek zamanlı kullanım sırasında kullanılabilir.
- Örnek: Saldırgan, bir kredi kartı dolandırıcılığı tespit etme modelini aldatmak için normal bir fotoğrafın içine insan gözüyle fark edilemeyecek şekilde kredi kartı bilgilerini gizler.
Aldatıcı Verinin Kullanım Alanları:
- Virüs/Malware Tespiti: Saldırganlar, aldatıcı veriler kullanarak anti-virüs yazılımlarının yapay zeka tabanlı tehdit tespit sistemlerini atlatabilir. Bu sayede, zararlı yazılımlar algılanmadan sisteme bulaştırılabilir.
- Ağ Tarama: Saldırganlar, ağ güvenliği sistemlerinin yapay zeka tabanlı tehdit tespit mekanizmalarını aldatarak ağa daha gizli bir şekilde sızabilir.
Korunma Yolları:
- Yapay zeka modellerinin eğitiminde, aldatıcı verilere karşı dayanıklılık kazandırmaya yönelik teknikler kullanılmalıdır.
- Verilerin güvenilir kaynaklardan temin edilmesi ve bütünlüğünün sağlanması kritik önem taşımaktadır.
- Anormal veri örneklerini tespit etmek için anomaly detection (anomali tespiti) teknikleri kullanılabilir.
- Yapay zeka güvenliği alanında uzman personel yetiştirilerek yeni aldatıcı veri oluşturma yöntemlerinin takibi sağlanmalıdır.