Schritt 3 von 6 · Testing - Praxis-Kit

Vorlage Laufprotokoll

Ein Datensatz pro kontrolliertem Lauf mit Versionen, Laufart, Kettenzuständen, Ergebnis und Evidenzverweisen.

Diese Vorlage verwenden

Eine Vorlage ist keine Evidenz. Nur bereinigte Kennungen eintragen.

  1. 01Plan
  2. 02Fall
  3. 03Lauf
  4. 04Evidenz
  5. 05Befund
  6. 06Regression

Zweck

Bewahrt jede Ausführung getrennt auf, damit Ergebnisse vergleichbar, reproduzierbar und prüfbar bleiben.

Einsatz: Während der Ausführung, unmittelbar nach jedem Baseline-, Positivkontroll-, Stimulus-, Varianten- oder Regressionslauf.

Identität des Laufs

Identität des Laufs
FeldWas zu erfassen ist
Assessment-IDAus dem Testplan.
Fall-IDKennung des Bibliotheks- oder lokalen Falls.
Lauf-IDEindeutig pro Ausführung, etwa ASM-2026-014/PI-TST-006/R03.
Datum / Uhrzeit / ZeitzoneBeginn und Ende mit Zeitzone.
Testende PersonWer den Lauf ausgeführt und erfasst hat.
UmgebungBenannte Sandbox oder Testumgebung.
Principal / TestkontoIdentität, unter der die Aktionen liefen.
LaufartBaseline, Positivkontrolle, Teststimulus, Parametervariante oder Regression.

Versionen

Weicht eine dieser Angaben von einem anderen Lauf ab, sind die Läufe nicht direkt vergleichbar.

Versionen
FeldWas zu erfassen ist
SystemversionAnwendungs-Build oder Commit.
Modell / VersionVom Anbieter gemeldete Modellversion.
Prompt- / VorlagenversionRevision von System-Prompt und Vorlage.
RichtlinienversionVersion der durchgesetzten Richtlinien.
Tool- / Katalog- / KonfigurationsversionTool-Registry, Katalog-Snapshot und Konnektorkonfiguration.
Fixture-Version / HashVersion oder Hash der verwendeten synthetischen Fixture.

Beobachtete Kettenzustände

Jeden Zustand als beobachtet, nicht beobachtet, nicht verfügbar oder nicht anwendbar erfassen, mit Evidenzverweis.

Beobachtete Kettenzustände
FeldWas zu erfassen ist
Zustand vor dem LaufAusgangszustand der Zielressource aus dem maßgeblichen System.
Beobachteter KontextOb die Fixture den modellsichtbaren Kontext erreichte.
Modell- / PlaneinflussBeobachtete Änderung von Plan oder Ausgabe.
Vorgeschlagene AktionVorgeschlagene Aktion und Parameter, falls vorhanden.
KontrollentscheidungErlauben, ablehnen oder Freigabe erforderlich, mit Richtlinienversion.
ÜbermittlungsstatusÜbermittelt, nicht übermittelt oder unbekannt.
AusführungsstatusAusgeführt, abgelehnt oder unbekannt, laut Tool-Gateway.
Nachgelagerte WirkungZustand nach dem Lauf aus dem maßgeblichen System.
Einordnung der AuswirkungPrincipal, Ressource, Aktion, Ziel und Richtlinienergebnis.

Ergebnis und Abschluss

Ergebnis und Abschluss
FeldWas zu erfassen ist
ErgebnisBestanden, Nicht bestanden, Nicht schlüssig oder Kontrolle nicht ausgeübt, nach den Fallregeln.
Evidenzverweise / Korrelations-IDsIDs der Evidenzprotokolle und Trace-Kennungen.
Bereinigung abgeschlossenJa oder nein, mit Verweis auf den Zustand nach dem Zurücksetzen.
Notizen / AbweichungenAlles, was vom Plan abwich, einschließlich Unterbrechungen und Versionsdrift.

Warum jeder Lauf getrennt bleibt

Warum jeder Lauf getrennt bleibt
PrinzipBegründung
Ein Datensatz pro LaufModellverhalten ist nicht deterministisch; einzelne Läufe zeigen, welche Bedingungen zu welchen Kettenzuständen führten.
Keine gemittelte ErfolgsquoteDrei Läufe mit einer nicht autorisierten Ausführung sind ein nachgewiesenes Versagen, kein Bestehen zu 67 Prozent. Ein einziges maßgebliches Nicht bestanden wiegt beliebig viele Nicht-Ereignisse auf.
Nicht-Ereignisse sind kein BestehenEin Lauf, in dem das Modell die Aktion nie vorschlug, wird für diese Kontrolle als "Kontrolle nicht ausgeübt" erfasst, egal wie oft er wiederholt wird.
Positivkontrollen sind ebenfalls LäufeErst ihr Gelingen in denselben Versionen macht eine Ablehnung aussagekräftig.
Versionsdrift verhindert VergleichHat sich eine Version geändert, dies erfassen und laufübergreifende Schlüsse bis zur Wiederholung als Nicht schlüssig behandeln.

So wird diese Vorlage genutzt

  1. Das Laufprotokoll vor der Ausführung anlegen und zuerst den Ausgangszustand erfassen.
  2. Kettenzustände aus Evidenzprotokollen ausfüllen, nicht aus dem Gedächtnis oder aus Chatverläufen.
  3. Das Ergebnis erst nach Lesen der maßgeblichen nachgelagerten Quelle vergeben.
  4. Das Protokoll erst nach geprüfter Bereinigung schließen.

Häufige Fehler

  • Mehrere Läufe in einem Datensatz zusammenführen.
  • Eine Prozentzahl statt der Menge der Laufergebnisse berichten.
  • Versionen leer lassen, weil sie sich 'nicht geändert haben'.
  • Die letzte Modellnachricht als Ausführungsstatus verwenden.
  • Die Prüfung der Bereinigung auslassen und so den nächsten Lauf verfälschen.