Slow-Burn-Angriffe blockieren: Kontextuelle Richtlinien in Omnigent
Von KI aus dem englischen Original übersetzt. Auf Englisch ansehen
Omnigent ermöglicht jetzt kontextuelle Richtlinien, die das Risiko über eine gesamte Sitzung hinweg verfolgen, um schleichende („Slow-Burn“) indirekte Prompt-Injection-Angriffe zu blockieren und Datendiebstahl beim ausgehenden Schritt zu stoppen, ohne dass Änderungen am Agenten erforderlich sind. Diese manipulationssicheren Richtlinien können vom Agenten weder überschrieben noch deaktiviert werden, sodass jede Richtlinienablehnung Vorrang hat und für alle Änderungen eine menschliche Genehmigung erforderlich ist.
• Der Angriff: Eine indirekte Prompt-Injection zerlegt den Datendiebstahl in gewöhnliche Schritte: ein Dokument lesen, ein weiteres lesen, eine Zusammenfassung schreiben und diese nach außen senden. Kein einzelner Agent und kein einzelnes Modell kann dies abfangen, da jeder Schritt innerhalb seiner Berechtigungen liegt und isoliert betrachtet unauffällig wirkt. Der Angriff wird erst über die gesamte Sitzung hinweg sichtbar. • Die Verteidigung: Eine einzige, mit Omnigent implementierte kontextuelle Richtlinie verfolgt das Risiko über die gesamte Sitzung hinweg und blockiert den ausgehenden Schritt, sobald der Agent zu viele sensible Inhalte gelesen hat. Wir zeigen live, wie der Angriff gestoppt wird, ohne dass der Agent anderweitig angepasst werden muss. • Manipulationssicherheit: Der Agent kann die Schutzvorrichtung weder überschreiben noch ausschalten. Er verfügt über kein Werkzeug, um eine Richtlinie zu entfernen oder abzuschwächen; das Hinzufügen einer Richtlinie erfordert eine menschliche Genehmigung, und bei der Kombination von Richtlinien setzt sich jede Ablehnung durch.