Kontrolliertes Sicherheitslernen
Prompt-Injection-Sicherheitslabs
Praktische Übungen zu Vertrauensgrenzen, modellsichtbarem Kontext, Autorisierung und Auswirkungen - ohne Verbindung zu realen Modellen, Konten, Tools oder Produktivsystemen.
01
Sicherheitsgrenzen statt Payload-Tricks verstehen
Die Labs zeigen anhand begrenzter Szenarien, wie nicht vertrauenswürdige Sprache in AI-Abläufe gelangt und wie Anwendungskontrollen das Ergebnis verändern. Sie vermitteln keine optimierten Umgehungen und stellen keine Simulation als repräsentativ für alle Modelle dar.
Hier starten
Grundlagen der direkten Prompt Injection
Untersuchen Sie zwei Kontextquellen, beobachten Sie ein redaktionell festgelegtes Modellverhalten und entscheiden Sie, ob die Anwendungs-Policy die vorgeschlagene Aktion erlaubt.
Lab startenBewusst kontrolliert
- Nur vorgegebene fiktive Eingaben
- Kein Live-LLM und keine versteckte Modell-API
- Keine realen Konten, Geheimnisse, Tools oder Netzwerke
- Keine Codeausführung oder autonomen Aktionen
- Keine Speicherung von Nutzer-Payloads oder Interaktionsdaten
02
Ein strukturierter Lernpfad
Der Einstieg beginnt bei direkter Eingabe und Modellkontext. Danach folgen indirekte Quellen, Retrieval-Systeme, Agents und Abwehrkontrollen im vollständigen geprüften Curriculum.
Lernbibliothek
Labs-Lernpfad
Alle 20 geprüften Übungen sind in den Bereichen Grundlagen, Indirekte Injection, RAG, Agents und Abwehr veröffentlicht. Jede Simulation nutzt vorgegebene fiktive Szenarien und trennt Modelleinfluss, Autorisierung, Ausführung und Auswirkung.
Grundlagen
Modellsichtbaren Kontext untersuchen und Autorisierung außerhalb des Modells anwenden.
SimulationDirekte und indirekte Prompt InjectionUrsprung und Pfad konkurrierender Anweisungen vergleichen.
SimulationVertrauensgrenzen und ModellkontextVertrauensmetadaten beim Eintritt von Inhalten in den Modellkontext verfolgen.
Indirekte Injection
Anweisungen in abgerufenen Webinhalten untersuchen.
SimulationPrompt Injection über E-MailsNicht vertrauenswürdige Nachrichteninhalte in Assistant-Abläufen bewerten.
SimulationPrompt Injection über Dokumente / PDFUntersuchen, wie Dokumente Daten und anweisungsähnliche Sprache vermischen.
SimulationPrompt Injection über SuchergebnisseProvenienz und Vertrauen in suchgestütztem Kontext bewerten.
RAG
Abgerufene Inhalte von der Quelle bis zu Generierung und Aktion verfolgen.
SimulationManipulierte WissensbasisRetrieval-Relevanz von Dokumentintegrität trennen.
SimulationRetrieval-Relevanz und VertrauenVerstehen, warum ein relevantes Ergebnis nicht automatisch vertrauenswürdig ist.
Agents
Vertrauenswürdige Tools und nicht vertrauenswürdige Tool-Ausgaben getrennt behandeln.
SimulationAgentenautorisierungIdentitäts- und Berechtigungsprüfungen auf vorgeschlagene Aktionen anwenden.
SimulationPlan-Drift-ErkennungAbweichungen vom autorisierten Nutzerziel erkennen.
SimulationTool-Chain-AnalyseGesamtwirkungen über Folgen von Tool Calls bewerten.
SimulationMenschliche FreigabeInformierte Freigaben für konkrete folgenreiche Aktionen gestalten.
Abwehr
Quellen- und Vertrauensmetadaten außerhalb des Modelltexts erhalten.
SimulationInformationsflusskontrolleBegrenzen, wohin Daten fließen und welche Aktionen sie verwenden dürfen.
SimulationLeast PrivilegeDaten, Tools und Befugnisse eines Ablaufs minimieren.
SimulationEgress-BeschränkungenAusgehende Ziele unabhängig von der Modellabsicht begrenzen.
SimulationVorfallsuntersuchungQuelle, Kontext, Entscheidung, Aktion und Nebenwirkung rekonstruieren.
Mit Lernen und Tests realer Systeme fortfahren
Labs sind kontrollierte Lernsimulationen. Der Testing-Bereich definiert Methodik, Evidenz und lokale Bestehenskriterien für die autorisierte Bewertung realer Anwendungen; die technischen Hubs bieten vertiefende Referenzen.