Geführtes Sicherheitslab

Manipulierte Wissensbasis

Eine geführte Übung zur Korpusintegrität: Retrieval-Relevanz von Quellintegrität, Schreibrecht von Policy-Befugnis und geprüfte Wissensaktualisierungen von manipulierten oder veralteten Datensätzen trennen - anhand anwendungsseitiger Herkunft und Freigabestatus.

Konzeptionelle SimulationIntermediate15 Minuten2026-09-26

Konzeptionelle Simulation

Diese Übung nutzt redaktionell festgelegte, deterministische Beispiele mit fiktiven Namen und neutralen synthetischen Aussagen. Sie führt kein Retrieval, keine Embeddings, keinen Index, kein Modell und keine Tools aus und sagt nicht voraus, wie sich ein reales Modell verhält.

Schritt 3 von 63/6

Lernziele

Retrieval-Relevanz von Korpus- und Quellintegrität trennen.
Erklären, warum Schreibrecht keine Befugnis ist, organisatorische Wahrheit oder Policy festzulegen.
Sich auf anwendungsseitige Herkunft, Kennzeichnung der maßgeblichen Quelle, Freigabestatus, Version und Integritätsstatus stützen statt auf modellsichtbare Eigenbeschreibungen.
Widersprüchliche, fehlende oder in Quarantäne befindliche Integritätsmetadaten vorsichtig behandeln und abgeleitete Artefakte nach einer Quellquarantäne invalidieren.
Eine geprüfte Wissensaktualisierung erkennen und eine begrenzte Antwort erlauben, ohne Wissensmanipulation mit Prompt Injection gleichzusetzen.

Voraussetzungen

Lab RAG Prompt Injection (empfohlen)
Angriffsartikel RAG Prompt Injection (optional)

Szenario wählen

Jedes fiktive Szenario zeigt abgerufene Inhalte, die das Modell sieht, und getrennt davon die Herkunfts-, Freigabe- und Integritätsfakten der Anwendung. Integritätsentscheidungen gehören in die zweite Spalte.

Hoch relevante Aussage mit ungeprüfter IntegritätEin neu aufgenommener Wissenseintrag passt sehr gut zur Frage und nennt eine synthetische Policy-Tatsache. Er enthält keinen anweisungsartigen Text, aber Quellintegrität und Freigabestatus sind ungeprüft.Berechtigte Autorin, aber keine Policy-BefugnisEine Beitragende darf normale Wiki-Seiten anlegen und bearbeiten. Ihre neue Seite nennt eine synthetische Änderung der Sicherheits-Policy, sie darf aber keine maßgebliche Policy veröffentlichen.Neuerer, relevanterer Kandidat widerspricht der maßgeblichen QuelleEin aktuelles, hoch gerangtes Dokument widerspricht der geprüften maßgeblichen Version. Das Modell schlägt vor, dem neueren Kandidaten zu folgen.Geprüfte Wissensaktualisierung über den freigegebenen AblaufEine Policy-Verantwortliche hat eine neue Version über den Ablauf der maßgeblichen Quelle veröffentlicht. Herkunft, Freigabe, Versionsablösung und ACL sind intakt, und die Frage ist rein lesend.Veraltetes Derivat einer Quelle in QuarantäneEine Quelle wurde nach einem Integritätsproblem in Quarantäne gestellt. Ein alter Zusammenfassungs-Cache aus dieser Quelle existiert noch und wird abgerufen.

Wissenspfad und Vertrauensfluss

Wissen gelangt von Quellen über Ingestion, Integritätsprüfung, Indexierung und Retrieval zum Modell. Komponenten sind System; Dokumente, Derivate und der Modellvorschlag bleiben variabel.

Neuer WissenseintragVariabler Inhalt->
Ingestion und IntegritätsprüfungSystemkomponente->
IndexSystemkomponente->
RetrieverSystemkomponente->
ModellSystemkomponente->
AntwortvorschlagVariabler Inhalt->
Policy zur AntwortintegritätSystemkomponente

Modellsichtbare abgerufene Inhalte

Abgerufener Text, den das Modell liest. Text in Klammern markiert eine neutrale synthetische Aussage, keine echte Vorgabe.

Abgerufener Eintrag kb-204, als ungeprüft markiert
[synthetische Tatsachenbehauptung] Reisekosten werden jetzt innerhalb von zwei Tagen erstattet.

Anwendungsseitige Herkunft, Freigabe und Integrität

Erfasst von der Ingestion-Pipeline, dem Register maßgeblicher Quellen und der Anwendung außerhalb des Modelltexts.

Relevanz: Bestes Ergebnis für die Frage; Relevanz ist kein Integritätsnachweis
Quellintegrität: Ungeprüft: Ursprung keiner registrierten Quelle zugeordnet
Freigabestatus: Nicht freigegeben; keine Prüfung erfasst
Antwort-Policy: Nur geprüftes, freigegebenes Wissen darf als Tatsache genannt werden