Not What You’ve Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection

Metadane

• Autorzy: Kai Greshake, Sahar Abdelnabi, Shailesh Mishra, Christoph Endres, Thorsten Holz, Mario Fritz
• Rok: 2023
• Zrodlo: Proceedings of the 16th ACM Workshop on Artificial Intelligence and Security (AISec 2023), pages 79-90
• Status: #to-read
• Kategoria: Security

Notatki

Wyekstrahowane z: hasan-llm-phishing-detection-2025

Praca demonstruje ze atakujacy moga zdalnie eksploatowac aplikacje zintegrowane z LLM przez wstrzykiwanie promptow do danych pobieranych podczas inferencji (indirect prompt injection). Kluczowa praca formalizujaca zagrozenia prompt injection dla LLM-integrated systems. Fundamentalna dla zrozumienia dlaczego LLM-based email security jest podatny na ataki.