権限は目的ではない：Omnigentにおけるインテントベースの認可

英語原文から AI が翻訳しました。 英語版を見る

• 課題：現在のAIエージェントの認可は、誰が行動しているかを確認するだけで、なぜ行動しているかは確認しません。そのため、プロンプトインジェクションによって、エージェントに権限はあるものの目的外の処理を実行させることが可能です。 • 防御：セッションを宣言されたインテント（目的）に紐付けます。すべての行動がそのインテントに対して検証され、インテントの範囲外のものは、エージェントのアイデンティティで実行可能な場合でも拒否または人間の承認へと誘導されます。プロンプトインジェクション攻撃をブロックするデモを実施しています。 • インテントの設定者：エージェントが説明文からドラフトを作成できますが、承認するのは人間です。エージェントがインテントを拡張または削除することはできず、インテントで許可されていないものはデフォルトで拒否されます。