Geführtes Abwehrlab

Vorfallsuntersuchung

Eine geführte Übung zu genau einer Frage: Stützt die verfügbare Evidenz eine bestätigte Sicherheitsauswirkung, oder bleibt der Fall Untersuchungsevidenz bzw. nicht beobachtet? Detektoralarme, blockierte Vorschläge, ausgeführte Anfragen, Telemetrielücken und begrenzte Credential-Offenlegung.

Konzeptionelle SimulationAdvanced18 Minuten2026-09-27

Konzeptionelle Simulation

Diese Übung verwendet redaktionell festgelegte, deterministische, synthetische Evidenzdatensätze mit fiktiven Systemen und .example.test-Namen. Sie ruft keine Modelle, APIs oder Anbieter auf, enthält keine echten Logs oder Credential-Werte und ist keine Rechtsberatung. Echte Evidenz kann personenbezogene oder vertrauliche Daten enthalten: nur erheben, was eine Untersuchung braucht, Zugriff beschränken und festgelegte Aufbewahrungsfristen anwenden.

Schritt 3 von 63/6

Lernziele

Verdächtige Inhalte, Modellbeeinflussung, Kontrollentscheidungen, Vorschläge, Übermittlungen, Ausführungen und nachgelagerte Wirkungen als getrennte Evidenzzustände behandeln.
Die Evidenzkette über Korrelations-IDs rekonstruieren, statt aus einem Detektortreffer, einer Modellaussage, einer Blockade oder einer fehlenden Antwort zu schließen.
Nicht beobachtete Stufen als nicht beobachtet behandeln, weder als fehlgeschlagen noch als sicher.
Bestätigte Auswirkung, Eindämmung und Credential-Rotation auf das beschränken, was die Evidenz belegt.
Evidenz vor zerstörenden Bereinigungen sichern, wo praktikabel, und nur erheben, was die Untersuchung braucht.
Erklären, warum eine versagte deterministische Grenze repariert werden muss und neue Prompt-Formulierungen allein nicht genügen.

Voraussetzungen

Abwehrartikel Incident Response (empfohlen)
Abwehrartikel Erkennung von Prompt Injection (empfohlen)

Szenario wählen

Jedes fiktive Szenario zeigt modellsichtbaren Text und getrennt davon außerhalb des Modells geführte Evidenzdatensätze. Sie entscheiden, ob die aktuelle Evidenz eine bestätigte Sicherheitsauswirkung stützt - nicht, ob etwas erlaubt werden soll.

Detektoralarm ohne VerhaltensänderungEin abgerufener fiktiver Support-Artikel enthält anweisungsartigen Text, und ein Detektor schlägt an. Aufgezeichneter Plan und reine Leseantwort bleiben unverändert; kein Tool-Aufruf wurde vorgeschlagen.Beeinflusster Plan vor der Übermittlung blockiertAbgerufene Inhalte haben den Plan wesentlich verändert, und der Lauf schlug eine fiktive toolübergreifende Aktion vor. Die deterministische Autorisierung verweigerte sie, bevor eine Anfrage übermittelt wurde.Ausgeführte Anfrage, bestätigte externe ÄnderungEine korrelierte Tool-Anfrage wurde autorisiert, übermittelt und ausgeführt, und ein getrennter nachgelagerter Audit-Datensatz bestätigt eine unbeabsichtigte Änderung an der fiktiven Ressource case-K310.Übermittelte Anfrage, Ergebnis nicht beobachtetEin Anwendungsdatensatz belegt, dass eine fiktive Schreibanfrage übermittelt wurde, aber die Tool-Antwort ging verloren und für das Zeitfenster gibt es keine nachgelagerte Audit-Telemetrie. Das Modell meldet Erfolg.Offenlegung eines bestimmten Tokens bestätigtEin fiktives begrenztes Konnektor-Credential, token-ref-17, stand einem Worker zur Verfügung. Anfrage-Logs und Anbieter-Evidenz zeigen, dass genau dieses Credential in einer ausgehenden Anfrage enthalten war und genutzt wurde.

Evidenzkette

Quelltext und Modellausgabe sind variabler Inhalt. Dass sie in einer Stufe beobachtet wurden, ihre Provenienz, Zeitstempel, Korrelations-IDs, Autorisierungsentscheidungen, Ausführungstelemetrie und nachgelagertes Audit sind Evidenz außerhalb des Modells. Die Einstufung leitet sich aus der stärksten verfügbaren Evidenz ab.

Quell- / ProvenienzdatensatzAufgezeichnete Evidenz->
Kontext / ModellbeobachtungVariabler Inhalt->
Vorgeschlagene AktionVariabler Inhalt->
Autorisierungs- / KontrollentscheidungAufgezeichnete Evidenz->
Übermittlungs- / AusführungstelemetrieAufgezeichnete Evidenz->
Nachgelagerte Wirkung / Anbieter-AuditAufgezeichnete Evidenz->
Einstufung der Untersuchung (aus der Evidenz abgeleitet)Aufgezeichnete Evidenz

Modellsichtbarer Text und Modellausgabe

Abgerufene Inhalte, Vorschläge und was das Modell nach eigener Aussage getan hat. Nützlicher Kontext, nie maßgebliche Evidenz für Ausführung oder Auswirkung.

Auszug aus dem abgerufenen Artikel
Support-Artikel KB-51 mit einem Absatz, der als Anweisung an den Assistenten formuliert ist (hier nur als synthetische Markierung dargestellt).
Modellantwort
Hier sind die drei Schritte zum Zurücksetzen Ihres fiktiven Geräts, laut KB-51.

Aufgezeichnete Evidenz

Provenienz, Detektorereignisse, Plan- und Autorisierungsdatensätze, Übermittlungs- und Ausführungstelemetrie, nachgelagertes oder Anbieter-Audit und Korrelations-IDs.

Provenienz: KB-51 v4, externer Beitrag, gelangte in Lauf run-201 um 09:14:02 in den Kontext
Detektorereignis: det-88: anweisungsartiger Inhalt, Konfidenz 0,97 (Signal)
Laufdatensatz: Plan unverändert gegenüber Baseline; reine Leseantwort; kein Tool-Aufruf vorgeschlagen oder übermittelt
Korrelation: Sitzung s-9 / Lauf run-201 / det-88