Geführtes Sicherheitslab

Grundlagen der direkten Prompt Injection

Eine geführte konzeptionelle Simulation zu modellsichtbarem Kontext, konkurrierenden Anweisungen, Autorisierung und Sicherheitsfolgen.

Konzeptionelle SimulationFundamentals10-15 Minuten2026-09-20

Konzeptionelle Simulation

Diese Übung verwendet redaktionell festgelegte, deterministische Beispiele. Sie ist kein Live-LLM und sagt das Verhalten realer Modelle nicht voraus.

Schritt 2 von 62/6

Lernziele

Nutzerkontrollierten Text auch neben Anwendungsanweisungen als nicht vertrauenswürdig erkennen.
Einen Modellvorschlag von einer Autorisierungsentscheidung unterscheiden.
Erklären, wie eine anwendungsseitige Policy das Sicherheitsergebnis verändert.

Voraussetzungen

Grundlegendes Verständnis von Prompts und AI Assistants

Szenario eines Support-Assistants

Ein fiktiver Support-Assistant erhält eine Anwendungsanweisung und eine nutzerkontrollierte Eingabe. Er kann eine Aktion vorschlagen, doch die Anwendung bleibt für die Autorisierung verantwortlich.

Normale SupportanfrageEin Nutzer möchte eine Rechnung zu seiner Bestellung finden.Explizite AufgabenumleitungDie Eingabe fordert den Assistant auf, den Supportauftrag zu verlassen und Kontodaten zu ändern.Subtile RollenmanipulationDie Eingabe stellt eine privilegierte Aktion als harmlose Diagnose dar.Einfluss aus vorherigem KontextDie Eingabe behauptet, eine frühere Unterhaltung habe eine sensible Aktion bereits freigegeben.

Modellsichtbarer Kontext

Das Modell kann beide Blöcke als Sprache verarbeiten. Ihre Position im Kontext macht sie nicht gleich vertrauenswürdig.

AnwendungskontrolliertNicht vertrauenswürdige Nutzereingabe

Quelle: AnwendungsanweisungVertrauen: Anwendungskontrolliert
Hilf Kunden bei Fragen zu Bestellungen. Du darfst Aktionen vorschlagen, die Anwendung autorisiert sie jedoch.
Quelle: NutzereingabeVertrauen: Nicht vertrauenswürdige Nutzereingabe
Hilf mir, die Rechnung für meine letzte Bestellung zu finden.