Siber saldırganlar, operasyonlarını planlarken hedef seçimi için giderek daha fazla açık uygulama mağazalarına yönelmektedir. Bu mağazalar, saldırganların yapay zeka (YZ) destekli uygulamaları içeren hedefleri tespit etmelerini kolaylaştırır.
Saldırganların kullandığı uygulama mağazaları şunları içerebilir:
- Google Play
- iOS App Store
- macOS App Store
- Microsoft Store
Saldırganların Taktikleri:
- Hedef Seçimi – Arama Sorguları: Saldırganlar, bu mağazalarda yapay zeka içeren uygulamaları bulmak için özel arama sorguları kullanabilir. Bu sorgular, yapay zeka anahtar kelimeleri, uygulama açıklamalarındaki YZ ile ilgili ifadeler veya belirli YZ yeteneklerine atıfta bulunan ifadeleri içerebilir.
- Yapay Zeka Parçacıklarının Toplanması (Public ML Artifacts): Saldırganlar, hedef olarak belirledikleri uygulamalardan yapay zeka ile ilgili bileşenleri toplamaya çalışabilir. Bu bileşenler, model dosyaları, eğitim verileri örnekleri veya uygulama arayüzünün yapay zeka ile etkileşimde bulunduğu kod parçaları gibi çeşitli şekillerde olabilir.
Toplanan Bilgilerin Kullanımı:
Saldırganlar, topladıkları bu bilgiler ışığında aşağıdaki gibi adımlar atabilir:
- Zayıflık Analizi: Toplanan yapay zeka parçacıklarını inceleyerek, uygulamada istismar edilebilecek güvenlik açıkları arayabilirler.
- Saldırı Geliştirme: Bu bilgileri kullanarak yapay zeka sistemini kandırmak veya manipüle etmek için saldırı yöntemleri geliştirebilirler.
- Diğer Saldırıların Desteklenmesi: Yapay zeka bileşenleri hakkındaki bilgiler, kimlik avı veya sosyal mühendislik gibi diğer saldırı türlerini desteklemek için de kullanılabilir.
Kuruluşların Dikkat Etmesi Gerekenler:
- Mobil uygulama geliştiricileri, yapay zeka bileşenlerini geliştirme ve dağıtım sürecine güvenlik önlemlerini entegre etmelidir.
- Uygulamaların kod yapısı ve yapay zeka bileşenleri gereksiz yere açığa çıkarılmamalıdır.
- Uygulama mağazalarının güvenlik politikalarına uyulmalıdır.
Bu önlemler, siber saldırganların açık uygulama mağazalarında yapay zeka destekli uygulamaları tespit etmelerini ve hedef haline getirmelerini zorlaştıracaktır.