Siber saldırganlar, yapay zeka (YZ) sistemlerine saldırmak için giderek daha yaratıcı yöntemler geliştiriyor. Bu yöntemlerden biri de YZ tedarik zincirinin zayıf noktalarından faydalanmaktır. Tedarik zinciri, yapay zeka modelinin geliştirilmesi, eğitimi ve kullanımı için gerekli tüm bileşenleri kapsar. Saldırganlar, bu zincirin farklı aşamalarına sızabilir ve bu sayede sisteme gizlice erişim sağlayabilir.
Saldırganların Hedefleri:
- Donanım (GPU Hardware): Yapay zeka modelleri genellikle yoğun hesaplama gücü gerektirir. Bu nedenle, saldırganlar yapay zeka hesaplamalarını gerçekleştiren GPU’ları hedef alabilir. Donanıma sızmak, saldırganların model eğitimini manipüle etmelerine veya gizli arka kapılar yerleştirmelerine olanak tanır.
- Veri ve Etiketler (Data and Annotations): Yapay zeka modellerinin eğitiminde kullanılan veriler ve etiketler kritik önem taşır. Saldırganlar, bu verileri manipüle ederek (data poisoning) modelin hatalı kararlar vermesine neden olabilir.
- Yazılım (ML Software Stack): Yapay zeka modelinin geliştirilmesi ve kullanılması için çeşitli yazılımlar kullanılır. Saldırganlar, bu yazılımlardaki güvenlik açıklarını kullanarak sisteme sızabilir ve modelin işleyişini bozabilir.
- Model (Model Itself): Bazı durumlarda, saldırganlar doğrudan yapay zeka modelinin kendisini hedef alabilir. Örneğin, çalınan bir model, başka bir sistemde kötü amaçlı olarak kullanılabilir.
Erişim Türleri:
- Tek Erişim: Bazı durumlarda, saldırganlar tedarik zincirinin tek bir zayıf noktasından faydalanarak sisteme tam erişim sağlayabilir.
- Çoklu Erişim: Daha karmaşık saldırılarda, saldırganlar birden fazla aşamayı hedef alarak kademeli olarak sisteme erişim sağlayabilir. Bu, saldırganların tespit edilmesini zorlaştırır.
Korunma Yolları:
- Tedarik zincirinin tüm aşamalarında güvenlik önlemlerinin sıkı bir şekilde uygulanması gerekir.
- Donanım ve yazılımların güvenlik güncellemelerinin düzenli olarak yapılması önemlidir.
- Verilerin bütünlüğünü ve doğruluğunu kontrol etmek için mekanizmalar oluşturulmalıdır.
- Yapay zeka güvenliği konusunda uzman personel yetiştirilmelidir.