Permissão não é propósito: autorização baseada em intenção no Omnigent
Traduzido do original em inglês por IA. Ver em inglês
O Omnigent apresenta a autorização baseada em intenção para agentes de IA, vinculando cada sessão a um propósito declarado e aprovado por humanos, em vez de depender apenas de permissões baseadas em identidade.
• A lacuna: a autorização em agentes de IA hoje verifica quem está agindo, não o porquê. Portanto, uma injeção de prompt pode induzir o agente a fazer algo autorizado, mas fora da tarefa. • A defesa: vincular a sessão a uma intenção declarada (seu propósito). Cada ação é verificada em relação a essa intenção, and qualquer coisa fora dela é negada ou retida para aprovação humana, mesmo quando a identidade do agente puder executá-la. Demonstramos o bloqueio de um ataque de injeção de prompt. • Quem define a intenção: o agente pode redigi-la a partir de uma descrição, mas um humano a aprova. O agente não pode expandi-la ou removê-la, e tudo o que a intenção não permitir é negado por padrão.