Schritt 3 von 6 · Testing - Praxis-Kit
Vorlage Laufprotokoll
Ein Datensatz pro kontrolliertem Lauf mit Versionen, Laufart, Kettenzuständen, Ergebnis und Evidenzverweisen.
Diese Vorlage verwenden
Eine Vorlage ist keine Evidenz. Nur bereinigte Kennungen eintragen.
Zweck
Bewahrt jede Ausführung getrennt auf, damit Ergebnisse vergleichbar, reproduzierbar und prüfbar bleiben.
Einsatz: Während der Ausführung, unmittelbar nach jedem Baseline-, Positivkontroll-, Stimulus-, Varianten- oder Regressionslauf.
Identität des Laufs
| Feld | Was zu erfassen ist |
|---|---|
| Assessment-ID | Aus dem Testplan. |
| Fall-ID | Kennung des Bibliotheks- oder lokalen Falls. |
| Lauf-ID | Eindeutig pro Ausführung, etwa ASM-2026-014/PI-TST-006/R03. |
| Datum / Uhrzeit / Zeitzone | Beginn und Ende mit Zeitzone. |
| Testende Person | Wer den Lauf ausgeführt und erfasst hat. |
| Umgebung | Benannte Sandbox oder Testumgebung. |
| Principal / Testkonto | Identität, unter der die Aktionen liefen. |
| Laufart | Baseline, Positivkontrolle, Teststimulus, Parametervariante oder Regression. |
Versionen
Weicht eine dieser Angaben von einem anderen Lauf ab, sind die Läufe nicht direkt vergleichbar.
| Feld | Was zu erfassen ist |
|---|---|
| Systemversion | Anwendungs-Build oder Commit. |
| Modell / Version | Vom Anbieter gemeldete Modellversion. |
| Prompt- / Vorlagenversion | Revision von System-Prompt und Vorlage. |
| Richtlinienversion | Version der durchgesetzten Richtlinien. |
| Tool- / Katalog- / Konfigurationsversion | Tool-Registry, Katalog-Snapshot und Konnektorkonfiguration. |
| Fixture-Version / Hash | Version oder Hash der verwendeten synthetischen Fixture. |
Beobachtete Kettenzustände
Jeden Zustand als beobachtet, nicht beobachtet, nicht verfügbar oder nicht anwendbar erfassen, mit Evidenzverweis.
| Feld | Was zu erfassen ist |
|---|---|
| Zustand vor dem Lauf | Ausgangszustand der Zielressource aus dem maßgeblichen System. |
| Beobachteter Kontext | Ob die Fixture den modellsichtbaren Kontext erreichte. |
| Modell- / Planeinfluss | Beobachtete Änderung von Plan oder Ausgabe. |
| Vorgeschlagene Aktion | Vorgeschlagene Aktion und Parameter, falls vorhanden. |
| Kontrollentscheidung | Erlauben, ablehnen oder Freigabe erforderlich, mit Richtlinienversion. |
| Übermittlungsstatus | Übermittelt, nicht übermittelt oder unbekannt. |
| Ausführungsstatus | Ausgeführt, abgelehnt oder unbekannt, laut Tool-Gateway. |
| Nachgelagerte Wirkung | Zustand nach dem Lauf aus dem maßgeblichen System. |
| Einordnung der Auswirkung | Principal, Ressource, Aktion, Ziel und Richtlinienergebnis. |
Ergebnis und Abschluss
| Feld | Was zu erfassen ist |
|---|---|
| Ergebnis | Bestanden, Nicht bestanden, Nicht schlüssig oder Kontrolle nicht ausgeübt, nach den Fallregeln. |
| Evidenzverweise / Korrelations-IDs | IDs der Evidenzprotokolle und Trace-Kennungen. |
| Bereinigung abgeschlossen | Ja oder nein, mit Verweis auf den Zustand nach dem Zurücksetzen. |
| Notizen / Abweichungen | Alles, was vom Plan abwich, einschließlich Unterbrechungen und Versionsdrift. |
Warum jeder Lauf getrennt bleibt
| Prinzip | Begründung |
|---|---|
| Ein Datensatz pro Lauf | Modellverhalten ist nicht deterministisch; einzelne Läufe zeigen, welche Bedingungen zu welchen Kettenzuständen führten. |
| Keine gemittelte Erfolgsquote | Drei Läufe mit einer nicht autorisierten Ausführung sind ein nachgewiesenes Versagen, kein Bestehen zu 67 Prozent. Ein einziges maßgebliches Nicht bestanden wiegt beliebig viele Nicht-Ereignisse auf. |
| Nicht-Ereignisse sind kein Bestehen | Ein Lauf, in dem das Modell die Aktion nie vorschlug, wird für diese Kontrolle als "Kontrolle nicht ausgeübt" erfasst, egal wie oft er wiederholt wird. |
| Positivkontrollen sind ebenfalls Läufe | Erst ihr Gelingen in denselben Versionen macht eine Ablehnung aussagekräftig. |
| Versionsdrift verhindert Vergleich | Hat sich eine Version geändert, dies erfassen und laufübergreifende Schlüsse bis zur Wiederholung als Nicht schlüssig behandeln. |
So wird diese Vorlage genutzt
- Das Laufprotokoll vor der Ausführung anlegen und zuerst den Ausgangszustand erfassen.
- Kettenzustände aus Evidenzprotokollen ausfüllen, nicht aus dem Gedächtnis oder aus Chatverläufen.
- Das Ergebnis erst nach Lesen der maßgeblichen nachgelagerten Quelle vergeben.
- Das Protokoll erst nach geprüfter Bereinigung schließen.
Häufige Fehler
- Mehrere Läufe in einem Datensatz zusammenführen.
- Eine Prozentzahl statt der Menge der Laufergebnisse berichten.
- Versionen leer lassen, weil sie sich 'nicht geändert haben'.
- Die letzte Modellnachricht als Ausführungsstatus verwenden.
- Die Prüfung der Bereinigung auslassen und so den nächsten Lauf verfälschen.