Siber saldırganlar, yapay zeka sistemlerinde açıktan advantage (üstünlük) sağlamak için çeşitli veri toplama teknikleri kullanabilir. Bu toplanan veriler, saldırıların planlanması ve gerçekleştirilmesinde kullanılabilir.
Hangi Veriler Toplanıyor?
Saldırganlar, yapay zeka sistemlerinden aşağıdaki gibi farklı türlerde verileri toplamaya çalışabilir:
- Makine Öğrenmesi Modelleri: Saldırganlar, model dosyalarını ele geçirerek modelin nasıl çalıştığını ve ne tür kararlar verdiğini öğrenebilir. Bu bilgi, saldırıların planlanmasında kullanılabilir.
- Eğitim ve Test Verileri: Saldırganlar, modelin eğitiminde kullanılan veri setlerini ele geçirerek modelin hangi tür verileri işleyebildiğini öğrenebilir. Bu bilgi, modelin aldatılması için kullanılabilir.
- Çıktı Verileri: Saldırganlar, modelin ürettiği çıktı verilerini ele geçirerek sistemin nasıl çalıştığını ve ne tür kararlar verdiğini anlayabilir.
- Sistem Telemetresi: Saldırganlar, modelin çalışmasıyla ilgili log kayıtları ve diğer telemetry verilerini toplayarak sistemin zayıf noktalarını keşfedebilir.
Veri Toplamanın Amacı Nedir?
Saldırganlar, topladıkları verileri şu amaçlar için kullanabilir:
- Veri Sızdırma (Exfiltration): Saldırganlar, topladıkları verileri sistemden dışarı çıkararak kendilerine veya başka bir yere aktarabilir. Bu veriler daha sonra başka saldırılarda kullanılabilir.
- Makine Öğrenmesi Saldırısı Hazırlığı (ML Attack Staging): Saldırganlar, topladıkları verileri kullanarak yapay zeka sistemlerine karşı yeni saldırı yöntemleri geliştirebilir. Bu saldırılar, modelin aldatılmasını veya yanlış kararlar vermesini sağlayabilir.
Korunma Yolları:
- Erişim Kontrolü: Sistemlere ve verilere erişimi sınırlandırmak ve en az izin ilkesini uygulamak önemlidir. Bu, saldırganların verilere erişimini zorlaştırır.
- Veri Şifreleme: Hassas veriler, şifrelenerek saklanması gerekir. Bu, saldırganların veri ele geçirseler bile verileri kullanamayacağı anlamına gelir.
- Sistem İzleme: Sistemlerin ve ağın sürekli olarak izlenmesi, şüpheli aktivitelerin tespit edilmesini sağlar. Bu sayede, saldırganların veri toplama girişimleri erken fark edilebilir.
- Veri Kaybı Önleme (DLP): Veri kaybı önleme (DLP) yazılımları, hassas verilerin yetkisiz olarak sistem dışına çıkarılmasını önler.
- Güvenlik Güncellemeleri: Yazılım, işletim sistemi ve güvenlik yazılımlarının güncel tutulması, bilinen güvenlik açıklarını kapatarak saldırganların işini zorlaştırır.