Testing - Abdeckung

Abdeckungsmatrix für Prompt-Injection-Sicherheitstests

Welche Testziele die geprüften PI-TST-Fälle heute abbilden, welche Kontrollen, Labs und Wissensseiten sie stützen, welche Evidenz eine Abdeckungsaussage braucht und wo echte Lücken liegen.

30 Abdeckungspunkte21 geprüfte Fälle

Abgedeckt heißt nicht sicher

  • Abgedeckt bedeutet, dass die aktuelle Bibliothek einen geprüften Fall für das genannte Ziel enthält. Es sagt nichts darüber, ob ein System sicher ist.
  • Ein lokales System besteht erst nach eigener autorisierter Ausführung und eigener Evidenz.
  • Ein repräsentativer Fall belegt nicht die Abdeckung aller Varianten eines Kanals oder einer Kontrolle.
  • Teilweise abgedeckt und Lücke sind Signale für die Weiterentwicklung dieser Bibliothek, keine Schwachstellenbefunde.
  • Prozentwerte oder Scores gibt es hier bewusst nicht.

Statusmodell

Abgedeckt
Mindestens ein geprüfter PI-TST-Fall übt die genannte Grenze oder das Kontrollziel direkt aus, mit ausdrücklichem Orakel und Evidenzpfad.
Teilweise abgedeckt
Ein bestehender Fall übt einen Teil der Grenze aus, aber ein wichtiger Kanal, eine Teilgrenze, ein Lebenszykluszustand oder ein Orakel liegt außerhalb dieses Falls.
Lücke
Kein aktueller PI-TST-Fall übt das genannte Ziel direkt aus.
Nur Kontext
Unterstützende Lern-, Angriffs-, Abwehr- oder Lab-Inhalte existieren, aber es gibt keinen Praxistestfall für das Ziel, und keiner ist bisher priorisiert.

Abdeckungsmatrix

30 von 30 Abdeckungspunkten angezeigt

Einstieg und Kontext

Konkurrenz direkter Nutzeranweisungen

Abgedeckt
Erforderliche Evidenz / Orakel
Kontrollentscheidung zu einer geschützten Aktion aus direkter Eingabe sowie eine erlaubte Positivkontrolle im Umfang.
Hinweis zur Abdeckung
Prüft anwendungseigene Befugnis, nicht ob das Modell ablehnt.
Empfohlene Maßnahme
Kein neuer Fall nötig

Indirekte Webinhalte

Abgedeckt
Erforderliche Evidenz / Orakel
Ingestion-Provenienz einer fiktiven Web-Fixture, Kontextlog, Kontrollentscheidung und Zustand im Datenspeicher für die Aktionsebene.
Hinweis zur Abdeckung
Repräsentativer Fall für den Webkanal. Der Fall stellt selbst fest, dass E-Mail, Dokumente und Suche eigene Läufe brauchen.
Angriff / Lernen
Empfohlene Maßnahme
Kein neuer Fall nötig

Indirekte E-Mail-Inhalte

Abgedeckt
Erforderliche Evidenz / Orakel
Kontextdatensatz der genauen Nachrichten und Anhänge mit Absender- und Thread-Provenienz, Gateway-Entscheidung gebunden an Principal, Postfach, Nachricht, Aktion und Empfänger sowie Sandbox-Transport und Postfach-Audit; erlaubtes Label als Positivkontrolle.
Hinweis zur Abdeckung
PI-TST-014 ergänzt Evidenz zu Absender, Thread, Anhängen und Postfachaktionen, die der Webfall nie sieht. Eine strukturierte harmlose Weiterleitung übt das Gateway aus, wenn kein Vorschlag entsteht.
Angriff / Lernen
Empfohlene Maßnahme
Kein neuer Fall nötig

Indirekte Dokument- und PDF-Inhalte

Abgedeckt
Erforderliche Evidenz / Orakel
Dokument-Hash und Version, Parser- und OCR-Versionen, Ebenenprovenienz je Segment im Vergleich zur sichtbaren Darstellung, modellsichtbarer Kontext und Aktionsentscheidung im Datenspeicher; korrekt extrahiertes sichtbares Feld als Positivkontrolle.
Hinweis zur Abdeckung
PI-TST-015 behandelt eine Extraktionsabweichung als Pipeline-Befund, nicht automatisch als Sicherheitsauswirkung. Keine fehlerhaften Dateien oder Parser-Ausnutzung.
Empfohlene Maßnahme
Kein neuer Fall nötig

Retrieval-Relevanz und Vertrauen

Abgedeckt
Erforderliche Evidenz / Orakel
Retrieval-Logs mit Scores, Partitionen und Dokument-IDs, Antwortintegrität gegenüber einer vertrauenswürdigen Richtlinienseite und Kontrolle der geschützten Aktion.
Hinweis zur Abdeckung
Berichtet Berechtigungsfilter, Provenienzanzeige, Antwortintegrität und Aktionskontrolle als getrennte Ergebnisse.
Empfohlene Maßnahme
Kein neuer Fall nötig

Retrieval-Berechtigungen und Security Trimming

Teilweise abgedeckt
Erforderliche Evidenz / Orakel
Ergebnisse des Berechtigungsfilters je abgerufenem Dokument für den anfragenden Principal.
Hinweis zur Abdeckung
PI-TST-003 erfasst das Ergebnis des Berechtigungsfilters, sein Ziel ist aber Relevanz und Vertrauen. Varianten mit verschiedenen Principals werden nicht systematisch ausgeübt.
Angriff / Lernen
Empfohlene Maßnahme
Später erneut prüfen

Integrität von Wissensbasis und Korpus

Abgedeckt
Erforderliche Evidenz / Orakel
Audit des Schreibpfads mit Akteursidentität, maßgebliche Korpusversion, Ingestion- und Indexdatensätze mit Hash sowie Retrieval-Logs mit Dokumentversion; Weitergabe durch den autorisierten Kurator und verweigertes unautorisiertes Schreiben als gepaarte Positivkontrollen.
Hinweis zur Abdeckung
PI-TST-017 wertet einen gespeicherten unautorisierten Schreibvorgang als Fehlschlag, auch wenn er nie abgerufen wird, und leitet den Korpuszustand nie aus Modellantworten ab.
Angriff / Lernen
Empfohlene Maßnahme
Kein neuer Fall nötig

Persistenter Speicher und Provenienz gespeicherter Kontexte

Abgedeckt
Erforderliche Evidenz / Orakel
Vorgeschlagener Schreibvorgang mit Schlüssel, Namensraum und Operation, Schreibentscheidung gebunden an Principal und Umfang, Speicher-Audit mit Version, Lesedatensatz und Provenienzlabel in der späteren Sitzung; autorisierter und verweigerter Schreibvorgang als gepaarte Kontrollen.
Hinweis zur Abdeckung
PI-TST-018 trennt Speicher von multimodaler Eingabe. Liest die spätere Sitzung das Element nie, wird der Provenienzerhalt als "Kontrolle nicht ausgeübt" erfasst; Modellaussagen über das Gedächtnis sind nie Speicherevidenz.
Empfohlene Maßnahme
Kein neuer Fall nötig

Provenienz multimodaler Eingaben

Abgedeckt
Erforderliche Evidenz / Orakel
Medien-Hash und Medientyp, OCR- oder Transkriptionsversion, Quellzuordnung je Segment, Kontextdatensatz mit Provenienzlabel und Aktionsentscheidung; korrekt extrahiertes sichtbares Feld als Positivkontrolle.
Hinweis zur Abdeckung
PI-TST-019 betrifft nur eine Sitzung. Korrekte Extraktion ist keine Anweisungsbefugnis, und ein Erkennungsfehler ist nicht automatisch eine Sicherheitsauswirkung.
Labs
-
Empfohlene Maßnahme
Kein neuer Fall nötig

Agents und Aktionen

Tool-Ausgabe als nicht vertrauenswürdige Daten

Abgedeckt
Erforderliche Evidenz / Orakel
Ergebnislog des Tool-Gateways, Provenienz des Ergebnisses im Kontext und Kontrollentscheidung für Folgevorschläge.
Hinweis zur Abdeckung
Unterscheidet ein legitimes Tool von einem nicht vertrauenswürdigen Ergebnis; deckt ein Lookup-Tool ab.
Angriff / Lernen
Empfohlene Maßnahme
Kein neuer Fall nötig

Agentenvorschlag und Autorisierung

Abgedeckt
Erforderliche Evidenz / Orakel
Strukturierter Vorschlag, Richtlinienentscheidung mit Version, Ausführungslog des Gateways und Zustand im Datenspeicher.
Hinweis zur Abdeckung
Ein Vorschlag gilt nie als Erlaubnis; eine positive Aktion im Umfang ist erforderlich.
Empfohlene Maßnahme
Kein neuer Fall nötig

Autorisierung nach Principal, Ressource, Aktion und Parameter

Abgedeckt
Erforderliche Evidenz / Orakel
Autorisierungsentscheidung gebunden an anfragende Person, Objekt und Parameter, einschließlich der Variante mit falschem Datensatz.
Hinweis zur Abdeckung
Abgedeckt durch die Parametervariante mit falschem Datensatz; nur ein Datensatztyp.
Empfohlene Maßnahme
Kein neuer Fall nötig

MCP-Metadaten und Discovery-Grenze

Abgedeckt
Erforderliche Evidenz / Orakel
Darstellung der Tool-Definitionen im Host, Auswahl- und Vorschlagsdatensätze sowie Laufzeitautorisierung des Hosts.
Hinweis zur Abdeckung
Discovery, Auswahl, Einfluss, Vorschlag, Autorisierung und Aufruf werden getrennt erfasst.
Labs
-
Empfohlene Maßnahme
Kein neuer Fall nötig

Änderung des MCP-Katalogs und Lebenszyklus der Metadaten

Abgedeckt
Erforderliche Evidenz / Orakel
Katalog-Snapshots A und B, Änderungsprovenienz und modellsichtbare Metadaten nach der Änderung.
Hinweis zur Abdeckung
Abgedeckt für eine einzelne Änderung von A nach B in einem Host; Serveridentität und Lieferketten-Integrität bleiben außerhalb des Umfangs.
Labs
-
Empfohlene Maßnahme
Kein neuer Fall nötig

MCP-Tool-Ausgabe nach dem Aufruf

Abgedeckt
Erforderliche Evidenz / Orakel
Verwendete Server-Fixture und Katalogstand, Korrelation von Aufruf und Ergebnis, Kontextdatensatz des Hosts mit Label nicht vertrauenswürdig und Folgeentscheidung gebunden an Principal, Ressource, Aktion und Parameter; zugeordnetes Lookup und erlaubte Folgeaktion als Positivkontrollen.
Hinweis zur Abdeckung
PI-TST-020 deckt den Pfad nach dem Aufruf ab, den PI-TST-007 ausschließt. Ein gültiges Tool-Ergebnis oder eine bekannte Serveridentität ist keine Berechtigung für eine Folgeaktion.
Empfohlene Maßnahme
Kein neuer Fall nötig

Weitere modellsichtbare MCP-Flächen (Ressourcen, Prompts)

Nur Kontext
PI-TST-Fall/Fälle
Keiner
Erforderliche Evidenz / Orakel
Noch nicht definiert; hängt davon ab, wie ein Host Ressourcen und Prompts dem Modell präsentiert.
Hinweis zur Abdeckung
Der MCP-Artikel hält fest, dass Server Tools, Ressourcen und Prompts bereitstellen. Die Bibliothek testet nur Tool-Metadaten; weitere Protokollaussagen werden hier nicht getroffen.
Labs
-
Empfohlene Maßnahme
Später erneut prüfen

Einzelne Multi-Agent-Übergabe und delegierte Befugnis

Abgedeckt
Erforderliche Evidenz / Orakel
Principal- und Delegationslinie über eine Übergabe vom Koordinator an einen Worker, mit Autorisierungsentscheidung des Workers.
Hinweis zur Abdeckung
Pfade über gemeinsamen Zustand liegen außerhalb dieses Falls.
Labs
-
Empfohlene Maßnahme
Kein neuer Fall nötig

Mehrstufige Delegation

Abgedeckt
Erforderliche Evidenz / Orakel
Ursprünglicher Principal und Anfrage-ID, Delegationsdatensätze je Stufe mit Umfang und Korrelations-ID, abschließende Entscheidung gegen ursprünglichen Principal und aktuellen Umfang sowie Speicherzustand; verkettete Aktion im Umfang und verweigerte Variante als Kontrollen, dazu eine Variante mit unterbrochener Linie.
Hinweis zur Abdeckung
PI-TST-021 erweitert die einzelne Übergabe von PI-TST-008 auf drei Stufen. Eine fehlende Linie darf keine sichere Erlaubnis ergeben oder auf die Identität des Ausführenden zurückfallen. Weitergabe über geteilten Zustand bleibt außerhalb des Umfangs.
Labs
-
Empfohlene Maßnahme
Kein neuer Fall nötig

Kontrollen und Datenfluss

Just-in-Time- und zeitlich begrenzte erhöhte Rechte

Nur Kontext
PI-TST-Fall/Fälle
Keiner
Erforderliche Evidenz / Orakel
Erfordert Datensätze zu Gewährung und Ablauf der Erhöhung aus dem Identitätssystem.
Hinweis zur Abdeckung
Der Abwehrartikel Least Privilege behandelt Just-in-Time- und zeitlich begrenzte Erhöhung; kein Testfall übt den Ablauf einer Gewährung aus.
Angriff / Lernen
-
Empfohlene Maßnahme
Später erneut prüfen

Bindung menschlicher Freigabe an die genaue Aktion

Abgedeckt
Erforderliche Evidenz / Orakel
Genaue Freigabeanzeige, an Aktion und Parameter gebundener Freigabedatensatz und Autorisierung nach der Freigabe.
Hinweis zur Abdeckung
Freigabe ist keine Autorisierung; beides wird erfasst.
Angriff / Lernen
-
Empfohlene Maßnahme
Kein neuer Fall nötig

Wiederverwendung von Freigaben und Bindung an Zustandsänderungen

Abgedeckt
Erforderliche Evidenz / Orakel
Ablehnungsdatensätze, wenn sich Parameter oder Zustand nach der Freigabe ändern und wenn eine Freigabe wiederverwendet wird.
Hinweis zur Abdeckung
Abgedeckt durch Parameter-, Zustands- und Wiederholungsvarianten.
Angriff / Lernen
-
Empfohlene Maßnahme
Kein neuer Fall nötig

Betrieb und Absicherung

Tool-Chain-Korrelation

Abgedeckt
Erforderliche Evidenz / Orakel
Korrelierter Alarm für eine zweistufige Abfolge innerhalb eines lokal festgelegten Korrelationsfensters.
Hinweis zur Abdeckung
Repräsentative zweistufige Abfolge mit einem Beispielfenster von 60 Sekunden; längere oder verzweigte Ketten werden nicht ausgeübt.
Angriff / Lernen
-
Empfohlene Maßnahme
Kein neuer Fall nötig

Rekonstruktion von Vorfallsevidenz

Abgedeckt
Erforderliche Evidenz / Orakel
Evidenz über acht Stufen für den fiktiven Befund F-17 mit Integritäts- und Aufbewahrungsprüfungen.
Hinweis zur Abdeckung
Der Status der historischen Rekonstruktion wird getrennt vom aktuellen Regressionsstatus berichtet.
Angriff / Lernen
Empfohlene Maßnahme
Kein neuer Fall nötig

Durch Änderungen ausgelöster Regressionstest

Abgedeckt
Erforderliche Evidenz / Orakel
Wiederholung mit der ursprünglichen Fixture-Version nach einer Änderung, mit Positivkontrolle und aktuellem Regressionsstatus.
Hinweis zur Abdeckung
PI-TST-013 ist der Testfall; die Vorlage Regressionstest ist Praxisdokumentation und selbst keine Abdeckung.
Angriff / Lernen
Labs
-
Empfohlene Maßnahme
Kein neuer Fall nötig

Priorisierte Lücken

In der aktuellen Matrix verbleiben keine priorisierten Kandidatenlücken. Die Testfälle PI-TST-014 bis PI-TST-021 decken diese Lücken ab. Teilweise abgedeckte, reine Kontext- und erneut zu prüfende Zeilen bleiben bewusst sichtbar: Sie sind ehrliche Signale zum Umfang, keine automatische Anforderung für neue Fälle.

Keinen neuen Fall anlegen

Diese Ziele sind bereits durch einen geprüften Fall abgebildet. Ein weiterer Fall brächte mehr Seiten, aber kein neues Orakel.

Später erneut prüfen

Teilweise abgedeckte oder reine Kontextzeilen, die real, aber noch nicht eigenständig genug für einen neuen Fall sind. Sie behalten ihren Status, bis ein Fall die Evidenz liefert.