Siber saldırılar sadece dijital ortamda gerçekleşmez. Saldırganlar, yapay zeka (YZ) modellerini kandırmak için fiziksel dünyayı da kullanabilirler. Bir model, gerçek dünyadan toplanan verilerle etkileşime giriyorsa, saldırganlar bu verilerin toplandığı yere erişerek modeli etkileyebilir. Verileri toplama sürecinde değişiklik yaparak, saldırganlar dijital erişim için tasarlanmış saldırıların modifiye edilmiş versiyonlarını gerçekleştirebilir.
Gerçek Dünya Veri Manipülasyon Saldırıları:
- Veri Kaynağını Hedef Alma: Makine öğrenme modelleri, genellikle sensörler, kameralar veya diğer fiziksel cihazlar aracılığıyla gerçek dünyadan toplanan verilere dayanır. Saldırganlar, modeli kandırmak için bu veri toplama sürecini manipüle edebilir.
- Saldırı Örnekleri:
- Sensör Manipülasyonu: Bir binanın ısıtma sistemini kontrol eden bir modele veri gönderen bir sıcaklık sensörünü düşünün. Bir saldırgan, sensöre müdahale ederek yanlış okumalar göndermesine neden olabilir. Bu, modeli binayı aşırı ısıtmaya veya yeterince ısıtmamaya kandırabilir.
- Fiziksel Sahtecilik: Bir saldırgan, bir modelin algısını manipüle etmek için gerçek dünya nesnelerini taklit etmeye çalışabilir. Örneğin, otonom bir arabanın kameralarının navigasyonunu bozmak için yola sahte işaretler yerleştirebilirler.
- Dijital Saldırılarla Bağlantı: Bu fiziksel saldırılar, modellere yapılan geleneksel dijital saldırılarla bağlantılıdır. Örneğin, gerçek dünyada veri manipülasyonu, bir dijital saldırıda eğitim aşamasında veri zehirlemeye benzer.
- Savunma Yolları:
- Veri Doğrulama: Fiziksel kaynaklardan toplanan verilerin bütünlüğünü ve makul olup olmadığını kontrol etmek için mekanizmalar uygulamak, anomalileri belirlemeye yardımcı olabilir.
- Fiziksel Güvenlik: Sensörlerin bulunduğu yerleri ve veri toplama cihazlarını erişim kontrolü ve tamper-evident (manipülasyona karşı dirençli) önlemlerle korumak, fiziksel müdahaleyi caydırabilir.
- Model İzleme: Modelin performansını düzenli olarak izlemek ve olağandışı çıktıları araştırmak, gerçek dünya veri manipülasyonundan kaynaklanan potansiyel sorunları tespit etmeye yardımcı olabilir.