Kaspersky’nin yeni araştırmasına göre yapay zeka destekli sohbet botlarının çıktıları Indirect Prompt Injection “Dolaylı İstem Enjeksiyonu” adı verilen bir teknikle değiştirilebilir. Bu yöntemle, ChatGPT gibi büyük dil modelleri (LLM) manipüle edilebiliyor. Şu ana kadar bu yöntemle ciddi bir zarar verilmemiş olsa da bu tür saldırıların kötüye kullanılma potansiyeli yüksek.
Yapay zeka sistemleri, belge analizinden işe alıma kadar birçok alanda kullanılıyor. Ancak araştırmacılar, kötü niyetli kişilerin internet sitelerine ve çevrimiçi belgelere gizli talimatlar yerleştirerek, yapay zeka sistemlerini etkileyebileceğini keşfetti. Bu talimatlar, sohbet robotlarının yanıtlarını veya arama sonuçlarını değiştirebilir.
Araştırmada dolaylı istem enjeksiyonunun şu alanlarda kullanılabileceği belirtiliyor:
- İşe alım manipülasyonu: İş arayanlar, özgeçmişlerine gizli talimatlar ekleyerek yapay zeka tarafından fark edilmeyi ve işe alım süreçlerinde öne çıkmayı hedefleyebilir.
- Reklam manipülasyonu: Reklam verenler, ürünleri hakkında olumlu yorumlar oluşturmak için yapay zeka destekli sistemleri etkileyebilir.
- Protesto: Yapay zekaya karşı çıkan kişiler, internet sitelerine ve sosyal medya profillerine protesto içerikli talimatlar ekleyebilir.
- Sosyal medya ve spam: Kullanıcılar, sosyal medya veya spam botlarını manipüle etmek amacıyla dolaylı istem enjeksiyonunu kullanabilir.
Kaspersky, dolaylı istem enjeksiyonuna karşı alınabilecek bazı önlemleri de paylaştı:
Medyascope'u destekle. Medyascope'a abone ol.
Medyascope’u senin desteğin ayakta tutuyor. Hiçbir patronun, siyasi çıkarın güdümünde değiliz; hangi haberi yapacağımıza biz karar veriyoruz. Tıklanma uğruna değil, kamu yararına çalışıyoruz. Bağımsız gazeteciliğin sürmesi, sitenin açık kalması ve herkesin doğru bilgiye erişebilmesi senin desteğinle mümkün.
- Yapay zeka sistemlerinizdeki güvenlik açıklarını tespit edin ve bu tür saldırılara karşı önlem alın.
- Yapay zeka sistemlerinin girdi ve çıktıları üzerinde denetim sağlayan araçlar kullanın.
- Bilgisayar ve sunucularınızı güncel güvenlik yazılımlarıyla koruyun.
Kaspersky’den Vladislav Tushkanov, bu yeni güvenlik açığının, yapay zeka çağında güçlü güvenlik önlemlerine duyulan ihtiyacı vurguladığını belirtiyor.
