Lernpfade
Mehrschichtige Abwehr
Gehen Sie die getrennten Kontrollebenen durch, von Provenienz bis Incident Response und adversarialem Testen, und lernen Sie, was jede entscheidet und was nicht.
- Zielgruppe
- Security-Architektinnen und -Architekten, AppSec-Teams, technische Leitungen
- Ungefährer Zeitaufwand
- Etwa 3 bis 4 Stunden
- Voraussetzungen
- Pfad Grundlagen; Pfad AI Agents empfohlen
Lernziele
- Benennen, was jede Kontrollebene entscheidet
- Vertrauen, Autorisierung, Datenfluss und Erreichbarkeit nicht zu einem Wert vermischen
- Erklären, warum deterministische Kontrollen korrigiert werden statt nur Prompts oder Klassifikatoren zu ergänzen
- Reaktion und Tests an Evidenzzuständen ausrichten
Ablauf des Pfads
02 Evidenz über Inhalte
- 02 - AbwehrDatenprovenienz
Hält fest, woher Inhalte stammen, damit spätere Entscheidungen die Herkunft als Evidenz nutzen können.
- 03 - Lab - Kontrollierte SimulationDatenprovenienz (Lab)
Beurteilen Sie in einer kontrollierten Simulation, ob ein Provenienzdatensatz gültige Evidenz ist.
- 04 - AbwehrEingabe- und Inhaltsprüfung
Prüfung liefert probabilistische Evidenz, keine Autorisierung.
- 05 - AbwehrErkennung von Prompt Injection
Erkennungsbefunde sind Signale, kein Beweis für eine Kompromittierung und keine Berechtigungsentscheidung.
03 Deterministische Entscheidungen
- 06 - AbwehrAgentenautorisierung
Entscheidet deterministisch, ob eine aufgelöste Aktion ausgeführt werden darf, unabhängig vom Modellvorschlag.
- 07 - AbwehrInformationsflusskontrolle
Regelt, ob bestimmte Daten zu einem bestimmten Ziel fließen dürfen.
- 08 - Lab - Kontrollierte SimulationInformationsflusskontrolle (Lab)
Entscheiden Sie in einer kontrollierten Simulation, ob bestimmte Daten zu einer bestimmten Senke fließen dürfen.
- 09 - AbwehrAusgabevalidierung
Prüft die Struktur; zielspezifisches Encoding und Berechtigung bleiben getrennt.
04 Begrenzung der Auswirkungen
- 10 - AbwehrLeast Privilege
Begrenzt, welche Identitäten, Tools und Fähigkeiten überhaupt existieren.
- 11 - Lab - Kontrollierte SimulationLeast Privilege (Lab)
Beurteilen Sie in einer kontrollierten Simulation, ob ein Berechtigungsrahmen für seine Aufgabe minimiert ist.
- 12 - AbwehrNetzwerk- und Egress-Beschränkungen
Steuert, welche Netzwerkpfade existieren, getrennt von der Aktionsautorisierung.
- 13 - Lab - Kontrollierte SimulationNetzwerk- und Egress-Beschränkungen (Lab)
Entscheiden Sie in einer kontrollierten Simulation, ob ein Workload ein aufgelöstes Ziel erreichen darf.
- 14 - AbwehrSandboxing / Eindämmung
Begrenzt die Auswirkungen beeinflusster Ausführung, ohne Ausgaben vertrauenswürdig zu machen.
05 Betrieb
- 15 - AbwehrIncident Response
Reagiert nach Evidenzzustand, von verdächtigen Inhalten bis zu bestätigten Folgen.
- 16 - Lab - Kontrollierte SimulationVorfallsuntersuchung (Lab)
Stufen Sie in einer kontrollierten Simulation synthetische Evidenz als bestätigte oder noch nicht bestätigte Auswirkung ein.
- 17 - AbwehrAdversariales Testen
Tests finden Schwächen; ein bestandener Test beweist keine Sicherheit.
06 Architekturpraxis und Forschung
- 18 - Lab - Kontrollierte SimulationVertrauensgrenzen und Modellkontext (Lab)
Üben Sie in einer kontrollierten Simulation, Quelle, Darstellung und Vertrauen zu trennen.
- 19 - ForschungCaMeL - Prompt Injection durch Systemdesign verhindern
Ein Architekturbeispiel, das Kontroll- und Datenfluss trennt; ein einzelnes Paper, kein allgemeiner Standard.
Vertiefung (optional)
- AbwehrSpotlighting / Datenmarkierung
Ein probabilistisches Hilfsmittel, um Daten von Anweisungen zu trennen.
- AbwehrHuman-in-the-Loop
An eine konkrete Aktion gebundene Freigabe als zusätzliche Stufe.
- AbwehrPlan-Drift-Erkennung
Evidenz zur Aufgabentreue bei Agenten.
- AbwehrTool-Chain-Analyse
Evidenz auf Ebene von Aktionsfolgen bei Agenten.
- ForschungSystematische Übersicht zur Prompt-Injection-Abwehr (2026)
Ein Überblick über heterogene Evidenz zur Abwehr.
Wissenscheck
Denken Sie jede Frage zuerst selbst durch und öffnen Sie sie dann, um mit der erwarteten Begründung zu vergleichen. Es gibt keine Punkte.
Ein starker Detektor ist im Einsatz. Können Autorisierungsprüfungen gelockert werden?
Nein. Erkennung ist probabilistische Evidenz, Autorisierung eine deterministische Entscheidung. Jede muss halten, wenn die andere versagt.
Eine Ausgabe hat die Schemavalidierung bestanden. Ist sie sicher für das Einfügen in HTML?
Nicht allein dadurch. Validierung prüft die Struktur; zielspezifisches Encoding oder Escaping ist am Ziel weiterhin nötig.
Eine Sandbox ist vorhanden. Entscheidet sie, ob Daten hinausgehen dürfen?
Nein. Eindämmung begrenzt Nebenwirkungen; Informationsflusskontrolle und Egress-Policy entscheiden über Datenfreigabe und Netzwerkerreichbarkeit.
Nach diesem Pfad sollten Sie...
- Jede Kontrolle der Entscheidung zuordnen, für die sie zuständig ist
- Mehrschichtige Abwehr ohne vermischten Vertrauenswert entwerfen
- Incident Response an Evidenzzuständen ausrichten
- Ergebnisse adversarialer Tests ohne Überzeichnung deuten