Kurz erklärt
Prompt Injection ist eine Angriffsmethode, bei der Angreifer gezielt versteckte oder manipulierte Befehle in Inhalte einschleusen, die ein KI-System verarbeitet, um dessen Sicherheitsregeln auszuhebeln.
Solche Anweisungen können direkt im Chat eingegeben werden oder unsichtbar auf Webseiten, in E-Mails und Dokumenten versteckt sein, die die KI zusammenfassen soll. Mit der zunehmenden Verbreitung autonomer KI-Agenten wächst das Risiko solcher Angriffe – etwa wenn ein Agent durch eine präparierte E-Mail dazu gebracht wird, vertrauliche Nutzerdaten weiterzuleiten.