Konzeptionelle Grundlagen
Prompt-Injection-Sicherheit lernen
Der Bereich Lernen ist die Grundlagenschicht von Prompt-Injection.net: die Denkmodelle und Begriffe, die Sie brauchen, bevor Angriffe, Abwehr und Labs vollständig verständlich werden.
01
Was dieser Bereich vermittelt
Lernen behandelt Anweisungen und Modellkontext, Vertrauensgrenzen, AI Agents und Tool Calling, RAG sowie den Unterschied zwischen Modellverhalten und Sicherheitsfolgen in der Anwendung. Die Artikel erklären Konzepte mit kurzen synthetischen Beispielen und verweisen dann auf die vertiefenden Angriffs- und Abwehrreferenzen.
Lernpfad
Curriculum
Alle neun Themen sind veröffentlicht und von den Grundprinzipien bis zur Architektur geordnet. Modellkontext und Vertrauensgrenzen verweisen bewusst auf einen gemeinsamen Artikel, weil beide Konzepte im Anwendungsdesign untrennbar sind.
- Schritt 01 - VeröffentlichtWas ist Prompt Injection?
Definition, direkt und indirekt sowie der Unterschied zwischen Kontrollverlust über Anweisungen und Sicherheitsfolgen.
- Schritt 02 - VeröffentlichtAnweisungen und Anweisungshierarchien
Wie Anwendungen und Modellanbieter Anweisungen priorisieren und warum Priorisierung Verhalten ist, keine Durchsetzung.
- Schritt 03 - VeröffentlichtModellkontext
Was modellsichtbar wird und wie Kontext zusammengesetzt wird. Behandelt in Vertrauensgrenzen und Modellkontext.
- Schritt 04 - VeröffentlichtVertrauensgrenzen
Quelle, Darstellung und Vertrauen sowie warum Kontrollen außerhalb des Modells liegen. Behandelt in Vertrauensgrenzen und Modellkontext.
- Schritt 05 - VeröffentlichtPrompt Injection und Jailbreaking
Zwei sich überschneidende Begriffe mit unterschiedlichem Schwerpunkt und warum der Sprachgebrauch variiert.
- Schritt 06 - VeröffentlichtSystem Prompts
Was System Prompts leisten können und was nicht und warum sie weder Geheimnis noch Kontrollgrenze sind.
- Schritt 07 - VeröffentlichtAI Agents und Tool Calling
Wie Modellvorschläge zu Aktionen werden und wo Autorisierung entscheiden muss.
- Schritt 08 - VeröffentlichtRAG und Retrieval
Wie abgerufene Inhalte in den Kontext gelangen und warum Relevanz kein Vertrauen ist.
- Schritt 09 - VeröffentlichtWarum Prompt Injection nicht nur Eingabevalidierung ist
Warum klassische Eingabefilterung allein Anweisungen und Daten in natürlicher Sprache nicht trennen kann.
Weiter in der Wissensbasis
Nach den Grundlagen geht es vertiefend zu konkreten Angriffsvarianten, mehrschichtiger Abwehr oder einem kontrollierten Lab.