Inocente até que se combine: Bloqueando a lethal trifecta com Omnigent Contextual Policies

Traduzido do original em inglês por IA. Ver em inglês

* A lacuna: Um agente se torna perigoso quando três capacidades se encontram em uma única sessão: acesso a dados privados, exposição a conteúdo não confiável e a capacidade de enviar dados para fora. Simon Willison chamou isso de lethal trifecta. Qualquer uma das pontas isoladamente é inofensiva, mas a combinação leva à exfiltração de dados. * A defesa: Rastrear quais pontas uma sessão tocou e bloquear a etapa de saída assim que duas delas forem acionadas. Os dados privados nunca chegam ao canal de exfiltração e o agente continua funcionando normalmente o resto do tempo. * Quem define as pontas: Um humano define cada ponta na configuração do agente, nunca o próprio agente. A política aciona uma ponta apenas quando os dados são realmente acessados. O trabalho comum de uma única ponta nunca é bloqueado.