Wie man menschliche Zustimmung zu einer AI Agent Action bindet
Bindende menschliche Zustimmung zu einer kanonischen AI-Agent-Anfrage verdauen, so dass Änderungen an Menge, Ziel, Umfang oder Zeitpunkt die Genehmigung vor der Ausführung ungültig machen.
Die menschliche Zustimmung ist nur dann sinnvoll, wenn sie identifiziert, was genehmigt wurde. Für eine KI-Agent-Aktion binden Sie den Genehmiger, kanonischen Request Digest, Richtlinienkontext, Ablauf und erlaubte Nutzung zählen Sie in einem Genehmigungsprotokoll. Wenn sich der Betrag, der Bestimmungsort, die Tool-Argumente oder die geschützte Ressource ändern, ist eine neue Genehmigung erforderlich.
Dieses Muster ist ein schmaler Teil von Autorisierung von AI AgentsEs verhindert eine gemeinsame Lücke, in der ein Benutzer eine freundliche Zusammenfassung genehmigt und das System später verschiedene strukturierte Argumente ausführt.
Erstellen Sie zuerst das Review-Objekt
Der Rezensent braucht die Fakten, die das Risiko verändern, nicht das gesamte Modellprotokoll.
type ApprovalRequest = {
approvalId: string;
requestDigest: string;
action: string;
resource: string;
counterparty?: string;
destination?: string;
amountMinor?: number;
currency?: string;
evidenceRefs: string[];
policyReason: string;
expiresAt: string;
maxUses: 1;
};
type ApprovalDecision = ApprovalRequest & {
approverId: string;
decision: 'approved' | 'rejected';
decidedAt: string;
authenticationContext: string;
signature: string;
};
Erstellen Sie den Digest aus validierten, kanonischen Daten. RFC 8785 definiert ein JSON-Kanonisierungsschema, das wiederholbares Hashing unterstützen kann, wenn die Implementierung auch ihr Schema und Signaturprofil definiert.
Vermeidung einer summarischen Substitution
Auf einem Genehmigungsbildschirm könnte "Pay Northwind EUR 1.250" stehen. Die geschützte Anfrage enthält auch ein Kontoziel, eine Käufereinheit, einen Rechnungsverdau, ein Ausführungsdatum und einen Anbieter. Ein bösartiger oder fehlerhafter Agent kann die freundliche Zusammenfassung konstant halten, während er ein verstecktes Feld ändert.
Materialfelder direkt vom kanonischen Objekt anzeigen. Wenn die Benutzeroberfläche für den Menschen lesbare Namen auflöst, halten Sie die stabilen Identifikatoren verfügbar und fügen Sie sie in den Digest ein. Markieren Sie neue Ziele, ungewöhnliche Währungen und fehlende Quellennachweise. Lassen Sie sich von der modellgeschriebenen Prosa keine Diskrepanz verbergen.
| Änderung nach Genehmigung | Erforderliches Verhalten |
|---|---|
| Betrag, Währung oder Bestimmungsort | Ungültigerklärung der Genehmigung |
| Maßnahme oder Ressource | Ungültigerklärung der Genehmigung |
| Evidenzanzeige nur Text | Konservieren verdauen, Aufzeichnung Präsentation ändern |
| Policy Version wird strenger | Neubewertung und möglicherweise erneute Genehmigung |
| Genehmigung läuft aus | Rückkehr approval_required |
| Doppelter Ausführungsversuch | Atomnutzungsanspruch lehnt den zweiten Versuch ab |
Googles AP2-Spezifikation Das Protokoll liefert nützliche Transaktionsobjekte. Ein Unternehmen muss immer noch seine eigene Genehmigeridentität, Lieferantenkontrollen, Richtlinien und Zahlungssysteme verbinden.
Schließen der Time-of-Check-Lücke
Unmittelbar vor dem Versand:
- Erstellen Sie die kanonische Anfrage aus den Argumenten, die gesendet werden.
- Vergleichen Sie seinen Digest mit dem Zulassungsprotokoll.
- Verlängerung des Ablaufs, des Widerrufs, der Genehmigungsbehörde und der politischen Verpflichtungen.
- Behalten Sie sich atomar die einmalige Verwendung der Genehmigung und den Idempotenzschlüssel der Operation vor.
- Versand durch einen geschützten Adapter.
- Notieren Sie die Entscheidung und die beobachtete Antwort separat.
Wenn die vorgelagerten Zeiten aus, verbrauchen Sie nicht eine weitere Genehmigung zu wiederholen blind. Abfrage durch die gleiche Transaktion oder idempotency-Schlüssel und abgleichen Sie das Ergebnis. Genehmigung Antworten "kann diese Anfrage versucht werden?" Es beweist nicht die Abwicklung oder den Abschluss.
Testen Sie die hässlichen Fälle
Eine genehmigte Vorrichtung erstellen und jedes geschützte Feld mutieren. Testen Sie zwei gleichzeitige Verbraucher. Testen Sie einen Genehmiger, dessen Rolle zwischen Klick und Versand widerrufen wird. Testen Sie die Uhr verzerrt an der Ablaufgrenze. Erfassen Sie schließlich die Netzwerkanforderung vom Adapter und überprüfen Sie, ob sein Digest mit dem genehmigten Objekt übereinstimmt.
Siehe Transaktionsbeschränkte Berechtigungen und genaue Zahlung Genehmigung für angrenzende Implementierungen. AI Agent Audit Trailmit reduzierten empfindlichen Nutzlasten.
Die OATI-Empfangspfad Demonstriert tragbare Evidenzkonzepte in der Entwicklervorschau. UX, Identitätssicherung und -richtlinien erfordern ein workflowspezifisches Design und eine unabhängige Überprüfung.
Fragen zum Genehmigungsentwurf
Sollte der Genehmiger die Erklärung des Modells sehen?
Die Erklärung kann einem Rezensenten helfen zu verstehen, warum der Agent eine Aktion vorgeschlagen hat, aber sie muss zweitrangig bleiben gegenüber geschützten Feldern und Quellennachweisen. Zeigen Sie, welcher Text aus dem Modell stammt und welche Werte aus Aufzeichnungssystemen stammen. Eine überzeugende Erklärung kann einen nicht verifizierten Zielort oder eine fehlende Rechnung nicht kompensieren. Behalten Sie die Erklärungsversion bei, wenn sie die Entscheidung beeinflusst hat, während Sie die Genehmigung für das kanonische Anforderungsobjekt bindet.
Was zählt als materielle Veränderung?
Die Richtlinie sollte wesentliche Felder nach Maßnahmen definieren. Betrag, Währung, Ziel, Gegenpartei, Ressource, Käufereinheit und Ausführungszweck sind gängige Beispiele. Eine Korrektur des Anzeigeetiketts erfordert möglicherweise keine erneute Genehmigung, wenn sich die stabile Kennung und die geschützte Bedeutung nicht geändert haben. Berechnen Sie den Digest über jedes Feld, das der Ausführungsadapter verwendet. Wenn ein Feld das Risiko oder das Routing ändern kann, sich jedoch außerhalb des Digests befindet, ist die Genehmigung anfällig für Substitutionen.
Wie lange sollte die Zulassung gültig bleiben?
Eine Produktionsänderung kann auf ein Wartungsfenster beschränkt sein. Eine Genehmigung für die Zahlung von Lieferanten muss möglicherweise verlängert werden, wenn sich der Ziel- oder Rechnungsstatus ändert. Unmittelbar vor der Ausführung ist der Ablauf der Genehmigung, die Genehmigungsbehörde, die Richtlinienversion und der aktuelle geschützte Zustand zu überprüfen. Ein nicht abgelaufener Zeitstempel allein bewahrt keine veraltete Genehmigung auf.
Kann eine Genehmigung eine Charge genehmigen?
Ja, wenn das genehmigte Objekt den Batch explizit definiert, jedes Element, die aggregierten Grenzen, erlaubte Mutationen und die Verwendung von Semantik. Eine vage Genehmigung für "heute Rechnungen" ist schwer zu überprüfen. Entscheiden Sie, ob ein fehlgeschlagener Artikel den Batch blockiert, ob Ergänzungen eine neue Genehmigung erfordern und wie Wiederholungen die Idempotenz auf Artikelebene bewahren.
Was ist, wenn der Genehmigungsservice nicht verfügbar ist?
Konvertieren Sie eine nicht verfügbare Genehmigungs-Suche nicht in eine Genehmigung. Workflows mit geringem Risiko können die Anforderung anstellen, bis der Dienst zurückgegeben wird. Wesentliche Maßnahmen sollten eingestellt werden, es sei denn, eine vorab ausgestellte, enge und lokal überprüfbare Genehmigung bleibt gemäß dokumentierter Ausfallrichtlinie gültig. Der Fehler wird aufgezeichnet und der ursprüngliche Vorschlag beibehalten, damit der Genehmiger die gleiche Anforderung später anstelle einer neu erstellten Zusammenfassung sieht.
Ein nützlicher Usability-Test stellt die ursprüngliche Quelle, die Zusammenfassung des Modells und die geschützte Anforderung nebeneinander. Fragen Sie die Rezensenten nach Menge, Ziel, Ressource und Ablauf, von denen sie glauben, dass sie sie genehmigt haben.
Zurückgewiesene und aufgegebene Vorschläge lange genug aufbewahren, um wiederholte Sondierungen im Rahmen der geltenden Aufbewahrungsrichtlinien zu erkennen.