Notstopp für KI-Agenten: Leitfaden für Sicherheitsvorfälle
Entwerfen und proben Sie einen KI-Agenten-Kill-Schalter, der Autorität widerruft, Ausführungspfade blockiert, Beweise bewahrt, Aktionen während des Fluges in Einklang bringt und eine sichere Wiederherstellung unterstützt.
Ein KI-Agenten-Kill-Schalter sollte neue Befugnisse widerrufen, erzwungene Ausführungspfade blockieren und Beweise bewahren, ohne den Zustand während des Fluges zu löschen. Einen Prozess zu stoppen, reicht nicht aus, wenn Anmeldeinformationen, Warteschlangen, Kinderagenten und direkte Servicerouten aktiv bleiben.
Agent Trust Dieses Runbook ist für den Moment, dass diese Kontrollen möglicherweise fehlgeschlagen sind und die Responder die Ausführung stoppen müssen, ohne die Beweise zu zerstören, die sie als nächstes benötigen.
Festlegung von Eindämmungswerten
| Ebene | Aktion | Verwendung bei |
|---|---|---|
| Pausenplanung | Stoppen neuer Aufgaben | Verdacht auf Output-Qualitätsproblem |
| Leugnet materielle Handlungen | Gateway Policy bestreitet Schreibklassen | Ungewisse Autorität oder fehlende Kontrolle |
| Widerrufsbevollmächtigter | Ungültigerklärung von Zuschüssen und Dienstleistungsidentität | Verdachtsmoment |
| Mieter oder Server isolieren | Blockroute und Anmeldeinformationen | Geschäftspartner- oder Lieferkettenvorfall |
| Bahnsteig-Notstopp | Leugnen Sie alle nicht-essentielle Agenten Aktionen | Fehler bei der Systemdurchsetzung |
Die Notsteuerung selbst benötigt eine starke Authentifizierung, Aufgabentrennung und ein Auditprotokoll.
Führen Sie die Sequenz
detect -> classify -> freeze new authority -> revoke active grants
-> block credentials and routes -> preserve queues and evidence
-> identify in-flight actions -> reconcile external outcomes
-> eradicate cause -> test controls -> approve bounded recovery
Löschen Sie keine Warteschlangen oder überschreiben Sie Quittungen während des Containments. Eine Zahlung hat den Anbieter möglicherweise vor dem Stopp erreicht. Markieren Sie sie unsicher, fragen Sie den Anbieter mit dem ursprünglichen Transaktionsschlüssel ab und fügen Sie das Ergebnis hinzu.
incident_action:
agent_id: ap-worker-3
containment: revoke_agent
grants_revoked_at: 2026-08-23T11:42:08Z
service_identity_disabled_at: 2026-08-23T11:42:12Z
gateway_rule_active_at: 2026-08-23T11:42:13Z
in_flight_transactions: [txn-184, txn-185]
evidence_hold: IR-492
Testausbreitung und Bypass
Messen Sie die Zeit von der Entscheidung über einen Vorfall bis zur Verweigerung an jedem Gateway und geschützten Dienst. Testen Sie zwischengespeicherte Zuschüsse, langlebige Sitzungen, Schlangenarbeiten, delegierte Kinderautorität und einen internen direkten Weg. Ein Dashboard mit "Agenten deaktiviert" ist kein Beweis dafür, dass die Ausführung gestoppt wurde.
Die Rückforderung erfordert eine neue Richtlinie oder eine neue Anmeldeinformationen, das Bestehen negativer Tests, den Abgleich der Arbeiten während des Fluges und eine rechenschaftspflichtige Genehmigung.
Definieren von Beweisen zum Sammeln
Containment sollte die Wirkstoff- und Modellversionen, den Tool-Register-Digest, Autoritätsobjekte, Policy-Pakete, Identitätsereignisse, Gateway-Entscheidungen, Warteschlangenarbeiten, Anbieterreferenzen und kürzliche Konfigurationsänderungen erfassen. Quelluhren und Erfassungszeiten bewahren. Ein Modell-Transkript kann die Interpretation unterstützen, sollte jedoch die Anforderung, die den Durchsetzungspunkt erreicht hat, nicht verschieben.
Fehlgeschlagene Eindämmungsversuche aufzeichnen: Wenn ein regionales Gateway weiterhin einen zwischengespeicherten Zuschuss für vier Minuten akzeptiert, ist diese Tatsache Teil des Vorfalls und der Wiederherstellungsentscheidung.
Für beauftragte Beauftragte: Traverse Child Grants und Service-Qualifikationen. Wenn nur der übergeordnete Prozess widerrufen wird, kann die Laufzeit eines Kindes handlungsfähig sein.
Die Wiederherstellung sollte schmaler sein als die vorherige Bereitstellung. Stellen Sie einen kleinen Aktionssatz oder einen Mandanten wieder her, beobachten Sie die Ablehnungs- und Beweissignale und erweitern Sie sich dann, nachdem die Akzeptanztests bestanden wurden.
NIST veröffentlicht eine Projekt zur Reaktion auf Vorfälle und Leitlinien Die agentenspezifische Antwort fügt Autoritätsgraphen, Modell- und Werkzeugversionen, Aufforderungen, externen Kontext und Handlungsnachweise hinzu.
Verwendung der Schema des Agenteninventars Abhängigkeiten zu finden und die Unfallrekonstruktionsleitfaden um die Zeitlinie zu bauen. Übersicht über die Plattform beschreibt die entsprechende Intelliger-Durchsetzungsschicht.
Dieses Runbook ist eine Designvorlage, kein Nachweis einer getesteten Produktionsfähigkeit. Die öffentlichen Komponenten von Intelliger bleiben in der Entwicklervorschau und erfordern eine einsatzspezifische Probe.
Kill-Switch Fragen
Sollte es einen globalen Switch geben?
Ein globaler Notstopp kann bei Systemausfällen nützlich sein, aber normale Containments erfordern engere Kontrollen durch Agenten, Mandanten, Aktion, Server und Risikoklasse. Ein Switch erzeugt einen großen Verfügbarkeits-Blast-Radius und kann Teams dazu ermutigen, ihn zu vermeiden. Testen Sie sowohl gezielte als auch plattformbasierte Containments.
Wer kann sie aktivieren?
Named-Incident-Rollen mit starker Authentifizierung und Trennung für die Kontrolle mit den höchsten Auswirkungen verwenden. Notmaßnahmen vorautorisieren, damit die Responder nicht auf eine nicht verfügbare Führungskraft warten. Initiator, Umfang, Grund und Zeitstempel aufzeichnen. Agenten und gewöhnliche Workflow-Anmeldeinformationen dürfen nicht auf den Switch zugreifen.
Was passiert mit Warteschlangenarbeit?
Einfrieren eines neuen Versands, Bewahren von Warteschlangeninhalten und Markieren des Autoritätsstatus. Löschen Sie keine Aufgaben oder lassen Sie einen anderen Mitarbeiter sie stillschweigend abholen.
Wie werden Kinderagenten gestoppt?
Delegierungs-, Orchestrierungs- und Anmeldebeziehungen des Elternteils durchqueren. Kinderstipendien und Dienstidentitäten widerrufen oder am gemeinsamen Gateway blockieren. Kind testen, das nach dem Verlassen des Elternprozesses weiterläuft. Bestandslücken sollten zu einer Feststellung von Vorfällen werden.
Wie wird Containment verifiziert?
Sende eine kontrollierte Anfrage über jede aktive Region und Route, inspiziere die Denial des geschützten Dienstes und überprüfe, ob keine Domänenoperation stattgefunden hat.
Wann kann der Service wieder aufgenommen werden?
Wiederaufnahme nach Ursachenbeseitigung, Versionierung von Anmeldeinformationen und Richtlinien, Abgleich während des Fluges, negative Regressionstests und rechenschaftspflichtige Genehmigung. Stellen Sie zuerst einen eingeschränkten Umfang wieder her und beobachten Sie Beweise. Bewahren Sie die Objekte aus der Vorfallszeit, damit spätere Quittungen und Untersuchungen interpretierbar bleiben.
Führen Sie die Übung mit einem unbeholfenen Zustand durch, nicht mit einem sauberen Leerlaufsystem. Setzen Sie eine Anfrage in die Warteschlange, eine bei der Richtliniebewertung, eine bei einem Upstream und eine an einen Kinderagenten delegiert. Aktivieren Sie das Containment, dann berücksichtigen Sie alle vier. Dies zeigt, ob der Switch nur ein Registry-Flag ändert oder ob er Anmeldeinformationen, Warteschlangen, Replikate und geschützte Dienste erreicht. Das Ergebnis sollte verstrichene Containment-Zeit, ungelöste Arbeit und die genauen Beweise enthalten, die für die Wiederherstellung aufbewahrt werden.
Unternehmen und Betriebsinhaber müssen wissen, welche Aktionen gestoppt wurden, welche noch abgeschlossen sind und wann die manuelle Verarbeitung sicher ist. Vermeiden Sie zu sagen, dass der Agent "ausgeschaltet" ist, während akzeptierte Anbieterarbeit oder delegierte Kinder ungelöst bleiben. Verwenden Sie die Statusliste aus dem Containment-Datensatz.
Geben Sie den Support-Teams einen stabilen Vorfallsbezug und ein genehmigtes Statusvokabular, das verhindert, dass improvisierte Erklärungen den Beweismitteln widersprechen, die die Antwortenden noch in Einklang bringen.