KI-Agenten produktiv einsetzen: Nachweise und Freigaben
Prüfen Sie die Produktionsreife von KI-Agenten mit konkreten Nachweisen, Fehlertests und klaren Verantwortlichkeiten. Mit Vorlage für die Freigabe.
Ob ein KI-Agent für den produktiven Einsatz geeignet ist, hängt von Nachweisen für eine konkrete Bereitstellung ab: Verfahren, Datenberechtigungen, Werkzeugzugriffe, Prüfergebnisse, Betriebsverantwortung und Wiederherstellung. Eine erfolgreiche Vorführung ist hilfreich. Sie belegt jedoch nicht, dass dieselben Kontrollen auch mit Kundendaten, einer ausgefallenen Abhängigkeit oder einer unterbrochenen Freigabe funktionieren. Grundlage der Entscheidung sollte deshalb ein versioniertes Nachweispaket sein.
Dieser Artikel richtet sich an Unternehmensarchitekten und Prozessverantwortliche, die einen klar begrenzten ersten Einsatz vorbereiten. Das Ergebnis ist eine Freigabematrix, die nachgewiesenes Verhalten von offenen Voraussetzungen trennt. Als Beispiel dient ein Agent, der eine interne Prüfakte vorbereitet. Ob die Akte angenommen werden kann, entscheidet weiterhin eine verantwortliche Person. Das beschriebene Vorgehen ist ein technischer Vorschlag und kein Zertifizierungsverfahren.
Welche Frage muss eine Produktionsfreigabe beantworten?
Eine Freigabe beantwortet eine konkrete Frage durch eine verantwortliche Entscheidung. „Sicherheit abgeschlossen“ lässt sich ohne Bedrohung, Umgebung und Nachweis nicht prüfen. „Der Kandidat kann bei ausgefallener Freigabe keine externe Nachricht versenden“ lässt sich dagegen an einem bestimmten Konnektor und einer bestimmten Bereitstellung testen. Halten Sie das erwartete Ergebnis vor dem Versuch fest. Bewahren Sie auch Ergebnisse auf, die den Einsatz verhindern.
Trennen Sie die Genehmigung des Umfangs, die technische Prüfung und die fachliche Abnahme. Ein Plattformingenieur kann nachweisen, dass eine Stoppfunktion wirkt. Die Prozessverantwortliche entscheidet, ob der verbleibende Ablauf geeignet ist. Keine dieser Entscheidungen ersetzt eine fehlende Erlaubnis zur Datennutzung. Das NIST AI RMF Playbook enthält vorgeschlagene Maßnahmen zum Risikomanagement. Die folgende Matrix ist unser Umsetzungsvorschlag, keine verpflichtende NIST-Checkliste und kein Konformitätsnachweis.
Alle Nachweise an denselben Kandidaten binden
Vergeben Sie eine Freigabekennung, bevor Sie die Nachweise zusammenstellen. Verknüpfen Sie diese mit Verfahrensstand, Worker-Konfiguration, erlaubten Werkzeugen, Datenumfang, Umgebung und Evaluierungsdatensatz. Ein Ergebnis für einen anderen Kandidaten kann bei der Untersuchung helfen. Es darf aber nicht stillschweigend eine aktuelle Voraussetzung erfüllen. Halten Sie ausdrücklich fest, welche früheren Nachweise übernommen werden und weshalb sie weiterhin gelten.
| Freigabekriterium | Zu sammelnde Nachweise | Verantwortliche Prüfung | Bedingung für einen Stopp |
|---|---|---|---|
| Prozessumfang | Benannte Verantwortung, erlaubte Ergebnisse und ausgeschlossene Aktionen | Prozessverantwortliche Person | Der Agent kann eine Entscheidung treffen, die einem Menschen vorbehalten ist |
| Datenzugriff | Freigegebene Quellen, Zweck und geprüfte Zugriffsgrenzen | Verantwortliche Person für die Daten | Ein Fall kann geschützte Unterlagen eines anderen Teams abrufen |
| Evaluierung | Festgeschriebene Fälle, Bewertungsregeln und offene Fehler | Unabhängige prüfende Person | Ein kritischer Fehler verschwindet in einem akzeptablen Durchschnittswert |
| Menschliche Übergabe | Exaktes Prüfobjekt, Zuweisung und Ablaufverhalten | Betriebsverantwortliche Person | Eine Freigabe bleibt trotz Änderung der vorbereiteten Aktion gültig |
| Wiederherstellung | Protokolle zu Stopp, Wiederanlauf und Ergebnisabgleich | Serviceverantwortliche Person | Ein Neustart kann eine Aktion mit unbekanntem Ergebnis wiederholen |
| Abnahme | Entscheidung über diesen Kandidaten und seine Einschränkungen | Verantwortlicher Auftraggeber | Die Zustimmung gilt für eine andere Version oder Umgebung |
Eine Nachweisreferenz muss zu einem kontrollierten Datensatz mit Verantwortung und Datum führen. Kopieren Sie vertrauliche Fallunterlagen nicht in eine Managementtabelle. Speichern Sie die Referenz, die relevante Feststellung und den Zugangsweg. Ein Dashboard mit sechs grünen Feldern ersetzt die zugrunde liegenden Unterlagen nicht. Auch die Berechtigung zum Lesen dieser Unterlagen muss bei der Übergabe eindeutig geregelt sein.
Einen synthetischen Fall durch die Freigabekriterien führen
Bereiten Sie einen Fall mit einem genehmigten Verfahren, zwei Quellunterlagen und einem absichtlich fehlenden Dokument vor. Führen Sie den Kandidaten mit deaktivierten externen Schreibaktionen aus. Erwartet wird ein Entwurf, der den fehlenden Nachweis benennt und den Fall der richtigen prüfenden Person zuweist. Der Agent darf weder die fehlende Unterlage erfinden noch den Fall als angenommen kennzeichnen.
Machen Sie anschließend die vorgesehene prüfende Person unerreichbar. Beobachten Sie, ob der Fall offen bleibt, an eine berechtigte Vertretung geht oder als überfällig erscheint. Ersetzen Sie danach den vorbereiteten Entwurf, nachdem eine Freigabe erfasst wurde. Das geänderte Objekt muss entsprechend der vereinbarten Regel erneut geprüft werden. Erfassen Sie Objektversionen und Entscheidungsreferenzen, statt sich allein auf Bildschirmfotos zu verlassen.
Unterbrechen Sie schließlich den Konnektor, nachdem das Zielsystem eine Übermittlung möglicherweise angenommen hat, aber bevor der Worker die Bestätigung erhält. Erwartet wird ein unbekannter Ausgang mit anschließendem Abgleich beim empfangenden System. Der Neustart des Workers darf keine erneute Übermittlung erlauben. Dieser Versuch prüft eine andere Grenze als eine saubere Ablehnung vor dem Versand und braucht deshalb einen eigenen Nachweis.
Blockierende Fehler von akzeptierten Einschränkungen trennen
Verwenden Sie drei Entscheidungszustände: erfüllt, blockiert und akzeptierte Einschränkung. Eine Einschränkung braucht einen begrenzten Einfluss, eine Ersatzkontrolle, eine verantwortliche Person und ein Ablaufdatum. Sie darf nicht dazu dienen, einen gescheiterten kritischen Test umzubenennen. Ein eingeschränktes Dokumentformat kann in einem Pilotprojekt vertretbar sein. Eine fehlende Trennung zwischen Kundenfällen gehört in eine andere Risikokategorie.
Vermeiden Sie pauschale Zahlenwerte. Welche Fehlerquote tragbar ist, hängt von der Aufgabe, den Folgen eines Fehlers und den Erkennungsmöglichkeiten der menschlichen Prüfung ab. Definieren Sie kritische Fehler getrennt von gewöhnlichen Qualitätsbewertungen. Berichten Sie Zähler und Nenner. Zehn erfolgreiche einfache Fälle sagen wenig über eine seltene, folgenreiche Ausnahme aus, wenn diese in der Stichprobe überhaupt nicht vorkam.
Bei veränderten Voraussetzungen erneut entscheiden
Eine Freigabe hat einen Geltungsbereich und eine begrenzte Gültigkeit. Prüfen Sie sie erneut, wenn sich Modellkonfiguration, Verfahren, Konnektor, Quellberechtigungen oder Entscheidungsbefugnisse ändern. Manche Änderungen erfordern einen gezielten Regressionstest. Andere machen die gesamte Evaluierung unbrauchbar. Legen Sie diese Unterscheidung vor dem ersten Produktionsvorfall fest und nicht erst während der Fehlerbehebung.
Wird ein Kriterium nach der Freigabe ungültig, ermitteln Sie die betroffenen Fälle, stoppen neue Arbeit im relevanten Umfang und sichern vorhandene Nachweise. Entscheiden Sie, ob laufende Fälle unter der bisherigen Konfiguration sicher beendet werden können. Ein Software-Rollback macht eine versandte Nachricht nicht rückgängig und stellt keinen gelöschten Datensatz wieder her. Die Wiederherstellung braucht deshalb eine fachliche Zustandsentscheidung zusätzlich zum technischen Bereitstellungsbefehl.
Prüfen, ob die Matrix eine Freigabe tatsächlich verhindern kann
Führen Sie eine Übung mit einem fehlenden Nachweis, einer abgelaufenen Zustimmung und einem Ergebnis für einen anderen Kandidaten durch. Lassen Sie eine Person entscheiden, die den Worker nicht selbst entwickelt hat. Kann sie Kandidat, Umfang oder offene Bedingungen nur durch Rückfragen an die Entwicklung ermitteln, muss das Paket verständlicher werden. Dokumentieren Sie auch, welche Rückfragen nötig waren und welche Unterlagen anschließend ergänzt wurden.
Bewahren Sie fehlgeschlagene Versuche und ihre Korrekturen auf. Ein neuer Testlauf sollte auf den vorherigen Fehler verweisen und erläutern, was geändert wurde. Halten Sie fest, wer die Korrektur angenommen hat. So bleibt die Freigabehistorie für spätere Untersuchungen brauchbar und ein vollständig wirkender Ordner verdeckt nicht den tatsächlichen Weg bis zur Abnahme.
Die Matrix ist einsatzfähig, wenn jedes Kriterium eine Entscheidungsregel, einen Nachweisort und eine verantwortliche Person hat und eine fehlende Voraussetzung sichtbar zum Stopp führt. Ausgefüllte Spalten allein genügen nicht. Beginnen Sie mit einem Verfahren in einer Umgebung. Erweitern Sie den Umfang erst, wenn dieselbe Nachweisdisziplin auch für die zusätzlichen Fälle, Systeme und Verantwortlichkeiten aufrechterhalten werden kann.
Vorlage und ergänzende Umsetzungsleitfäden nutzen
Nutzen Sie den übergeordneten Leitfaden für die umfassendere Architektur und wenden Sie diesen Artikel auf eine klar begrenzte Umsetzung an. Die ergänzenden Artikel behandeln verwandte Entscheidungen, ohne diese Vorlage zu ersetzen.
Bearbeitbare Vorlage herunterladen. Nächster Schritt.
Technischer Entwurf vom 18. Oktober 2026. Primärquellen wurden an diesem Datum geprüft; die fachliche Prüfung steht noch aus. Die Vorlagen beschreiben vorgeschlagene Tests, keine gemessenen Kundenergebnisse. OATI bleibt eine Entwicklervorschau. Lokale Implementierungsnachweise belegen keine unabhängige Prüfung, Kundenabnahme oder Produktionsreife einer konkreten Bereitstellung.