Yapay zeka dil modelleri (LLM) hayatımızın birçok alanında kullanılmaya başlarken, bu sistemlerin güvenlik riskleri de giderek önem kazanıyor. Bu risklerden biri de “kötü niyetli sorgu” yoluyla veri sızdırılmasıdır.
Kötü Niyetli Sorgu Nedir?
Kötü niyetli sorgu, saldırganların yapay zeka dil modelinden hassas bilgileri ele geçirmek için kullandıkları özel olarak hazırlanmış sorulardır. Bu bilgiler şunları içerebilir:
- Kişisel Kullanıcı Verileri: Saldırganlar, LLM’yi kandırarak kullanıcıların isimleri, adresleri, telefon numaraları veya diğer kişisel bilgilerini açığa çıkarmasını sağlayabilir. Bu bilgiler daha sonra kimlik hırsızlığı, dolandırıcılık veya diğer kötü amaçlar için kullanılabilir.
- Tescilli Bilgiler: LLM, şirket içi gizli bilgiler, ticari sırlar veya diğer hassas verilere erişime sahip olabilir. Saldırganlar, bu bilgileri çalmak için LLM’yi kandırabilir.
- Diğer Kullanıcıların Bilgileri: Bazı LLM’ler birden fazla kullanıcı tarafından kullanılır. Saldırganlar, bir kullanıcının bilgilerini diğer kullanıcılara ait bilgilere ulaşmak için bir sıçrama tahtası olarak kullanabilir.
Sızdırılan Bilgi Nereden Geliyor?
LLM’den sızdırılan bilgiler çeşitli kaynaklardan gelebilir:
- Özgün Eğitim Verileri: Bazı durumlarda, LLM’ler hassas bilgileri içeren verilerle eğitilir. Kötü niyetli sorular, bu gizli bilgileri modelin hafızasından açığa çıkarabilir.
- Bağlı Veri Kaynakları: Bazı LLM’ler, gerçek zamanlı olarak veri akışına sahip harici veritabanlarına veya API’lere bağlanabilir. Saldırganlar, LLM’yi bu kaynaklardan gizli bilgileri sızdırmaya zorlayabilir.
- Diğer Kullanıcılar: Birden fazla kullanıcı tarafından kullanılan LLM’lerde, bir kullanıcının modelle paylaştığı bilgiler diğer kullanıcılara maruz kalabilir.
Korunma Yolları:
- Sorgu Filtreleme: LLM’ye gönderilen soruları filtrelemek ve kötü niyetli sorguları tespit etmek için yapay zeka teknikleri kullanılabilir.
- Veri Minimizasyonu: LLM’leri eğitilirken en az miktarda hassas veri kullanılmalıdır. Anonimleştirme gibi teknikler kullanılarak verilerin gizliliği korunabilir.
- Yetkilendirme: LLM’lere yalnızca yetkili kullanıcıların erişmesine izin verilmelidir.
- Model İzleme: LLM’lerin şüpheli etkinlik açısından sürekli olarak izlenmesi önemlidir. Bu sayede, veri sızdırma girişimleri tespit edilip önlenebilir.