Berechtigung ist nicht gleich Zweck: Intent-basierte Autorisierung in Omnigent
Von KI aus dem englischen Original übersetzt. Auf Englisch ansehen
Omnigent führt eine intent-basierte Autorisierung für KI-Agenten ein und bindet jede Sitzung an einen deklarierten, vom Menschen genehmigten Zweck, anstatt sich nur auf identitätsbasierte Berechtigungen zu verlassen.
• Die Lücke: Die Autorisierung in KI-Agenten prüft heute, wer agiert, nicht warum. Ein Prompt-Injection-Angriff kann den Agenten also dazu bringen, etwas zu tun, wozu er zwar berechtigt, aber nicht beauftragt ist. • Die Verteidigung: Bindung der Sitzung an eine deklarierte Intention (ihren Zweck). Jede Aktion wird gegen diese Intention geprüft, und alles außerhalb davon wird abgelehnt oder zur menschlichen Genehmigung vorgelegt, selbst wenn die Identität des Agenten dies ausführen könnte. Wir demonstrieren, wie ein Prompt-Injection-Angriff blockiert wird. • Wer die Intention festlegt: Der Agent kann sie aus einer Beschreibung entwerfen, aber ein Mensch genehmigt sie. Der Agent kann sie weder erweitern noch entfernen, und alles, was die Intention nicht erlaubt, wird standardmäßig abgelehnt.