La permission n'est pas le but : l'autorisation basée sur l'intention dans Omnigent
Traduit de l'original anglais par IA. Voir en anglais
Omnigent introduit une autorisation basée sur l'intention pour les agents IA, liant chaque session à un objectif déclaré et approuvé par l'humain plutôt de se reposer uniquement sur des permissions basées sur l'identité.
• La faille : l'autorisation dans les agents IA vérifie aujourd'hui qui agit, et non pourquoi. Ainsi, une injection de prompt peut pousser l'agent à faire quelque chose d'autorisé mais hors sujet. • La défense : lier la session à une intention déclarée (son but). Chaque action est vérifiée par rapport à cette intention, et tout ce qui se trouve en dehors est rejeté ou soumis à une approbation humaine, même si l'identité de l'agent pouvait l'effectuer. Nous démontrons le blocage d'une attaque par injection de prompt. • Qui définit l'intention : l'agent peut la rédiger à partir d'une description, mais un humain l'approuve. L'agent ne peut pas l'étendre ou la supprimer, et tout ce que l'intention ne permet pas est refusé par défaut.