권한은 목적이 아닙니다: Omnigent의 인텐트 기반 권한부여

영어 원문을 AI가 번역했습니다. 영어로 보기

• 문제점: 오늘날 AI 에이전트의 권한부여는 누가 행동하는지 확인하고 왜 행동인지는 확인하지 않습니다. 따라서 프롬프트 인젝션이 에이전트로 하여금 권한은 있지만 목적에 어긋나는 작업을 수행하도록 유도할 수 있습니다. • 방어: 세션을 선언된 인텐트(목적)에 바인딩합니다. 모든 작업은 해당 인텐트에 대해 검증되며, 에이전트의 신원으로 수행할 수 있는 경우라도 범위를 벗어난 모든 작업은 거부되거나 사람이 승인하도록 제어됩니다. 프롬프트 인젝션 공격을 차단하는 과정을 시연합니다. • 인텐트 설정 주체: 에이전트가 설명에서 초안을 작성할 수 있으나, 승인은 사람이 합니다. 에이전트는 인텐트를 확장하거나 제거할 수 없으며, 인텐트가 허용하지 않는 것은 기본적으로 거부됩니다.