Geführtes Sicherheitslab

Prompt Injection über Dokumente / PDF

Eine geführte Übung zum Vertrauen in Dokumente: extrahierten Dokumenttext von Speicher-, Urheber- und Herkunftsfakten trennen, entscheiden, worauf sich die Anwendung stützen darf, und die Policy auf einen Modellvorschlag anwenden.

Konzeptionelle SimulationIntermediate15 Minuten2026-09-26

Konzeptionelle Simulation

Diese Übung nutzt redaktionell festgelegte, deterministische Beispiele mit fiktiven Dokumenten. Sie verarbeitet keine Dateien, nutzt kein Modell und keine Tools und sagt nicht voraus, wie sich ein reales Modell verhält.

Schritt 3 von 63/6

Lernziele

Begründen, warum der Speicherort weder Urheberschaft noch Vertrauen belegt.
Einen vertrauenswürdigen Parser, Extraktor, OCR-Dienst oder Renderer von dem variablen Text trennen, den er erzeugt.
Dokumentprovenienz und Herkunftskette außerhalb des Modelltexts bewahren.
Angaben wie freigegeben, vertraulich oder autorisiert im Dokument als Text behandeln, solange keine anwendungsseitigen Nachweise sie stützen.
Ausgabevalidierung (Form und Vertrag) von Autorisierung (Berechtigung) unterscheiden; keine der beiden macht Modellausgaben vertrauenswürdig.

Voraussetzungen

Lab Vertrauensgrenzen und Modellkontext (empfohlen)
Angriffsartikel Dokument- oder PDF-Prompt-Injection (optional)

Szenario wählen

Jedes fiktive Szenario zeigt extrahierten Dokumenttext, den das Modell sieht, und getrennt davon Speicher-, Urheber- und Herkunftsfakten, die die Anwendung erfasst hat. Sicherheitsentscheidungen gehören in die zweite Spalte.

Hochgeladenes Dokument für eine ZusammenfassungEin Nutzer lädt einen Bericht hoch und bittet um eine Zusammenfassung der Ergebnisse.Internes Dokument mit importiertem externem AbschnittEine interne Handbuchseite enthält einen Abschnitt, der aus einem Lieferantendokument übernommen wurde.PDF, dessen extrahierter Text Inhalt und anweisungsartigen Text mischtEin Extraktor liefert gewöhnliche Inhalte und eine Passage, die wie Anweisungen an einen Assistant klingt.Authentifizierter Speicher liefert ein Dokument gemischter UrheberschaftEin authentifizierter Speicher-Connector liefert einen geteilten Vertragsentwurf, den interne und externe Mitwirkende bearbeitet haben.Ablauf schlägt eine Zahlung auf Basis von Rechnungstext vorEin Buchhaltungs-Assistant liest eine Rechnungs-PDF und schlägt vor, sie zu bezahlen.

Dokumentpfad und Vertrauensfluss

Dokumente durchlaufen Speicher-, Parser- und Extraktionskomponenten, bevor das Modell sie sieht. Komponenten sind System; extrahierter Text und der Modellvorschlag bleiben variabel.

Hochgeladene DateiVariabler Inhalt->
Upload und TypprüfungSystemkomponente->
ExtraktorSystemkomponente->
Extrahierter TextVariabler Inhalt->
KontextzusammenstellungSystemkomponente->
ModellSystemkomponente->
VorschlagVariabler Inhalt->
Ausgabe-PolicySystemkomponente

Modellsichtbarer extrahierter Text

Aus dem Dokument erzeugter Text, den das Modell liest. Text in eckigen Klammern ist ein neutraler Platzhalter, keine echte Anweisung.

Extrahierter Berichtstext
Quartalsergebnisse eines fiktiven Logistikteams mit drei Empfehlungen.

Anwendungsseitige Provenienz und Datensätze

Von der Anwendung außerhalb des Modelltexts erfasst. Angaben im Dokument sind keine Policy-Metadaten.

Hochgeladen von: Dem anfragenden Nutzer, authentifiziert
Verfasser des Dokuments: Unbekannt, in der Dateiprovenienz nicht erfasst
Aufgabenumfang: Nur für den hochladenden Nutzer zusammenfassen