결합되기 전까지는 무죄: Omnigent Contextual Policies로 lethal trifecta 차단하기

영어 원문을 AI가 번역했습니다. 영어로 보기

* 공백: 에이전트는 개인 데이터 접근, 신뢰할 수 없는 컨텐츠 노출, 데이터 외부 전송 능력 등 세 가지 기능이 하나의 세션에서 만날 때 위험해집니다. Simon Willison은 이를 lethal trifecta라고 명명했습니다. 어느 한쪽만으로는 무해하지만, 결합되면 데이터 유출로 이어집니다. * 방어: 세션이 어떤 조건들을 거쳤는지 추적하고 두 가지가 활성화되면 아웃바운드 단계를 차단합니다. 개인 데이터는 유출 채널에 도달하지 않으며, 에이전트는 나머지 시간 동안 정상적으로 계속 작동합니다. * 조건 정의 주체: 에이전트 자체가 아니라 사람이 에이전트 설정에서 각 조건을 정의합니다. 정책은 실제로 데이터에 접근할 때만 조건을 활성화합니다. 일반적인 단일 조건 작업은 차단되지 않습니다.