結合されるまで無罪：Omnigent Contextual Policiesによる「lethal trifecta」の阻止

英語原文から AI が翻訳しました。 英語版を見る

* 課題：プライベートデータへのアクセス、信頼されていないコンテンツへの曝露、外部へのデータ送信能力という3つの機能が1つのセッションで揃ったとき、エージェントは危険になります。Simon Willisonはこれを「lethal trifecta」と名付けました。どの1つ単独では無害ですが、組み合わせることでデータ持ち出しにつながります。 * 防御策：セッションがどの条件に触れたかを追跡し、2つが点灯した時点でアウトバウンドステップをブロックします。プライベートデータが持ち出しチャネルに到達することはなく、エージェントはそれ以外の時間帯は通常通り動作し続けます。 * 条件の定義者：エージェント自身ではなく、人間の管理者がエージェント設定で各条件を定義します。ポリシーは、データが実際にアクセスされた場合にのみ条件を点灯させます。通常の単一条件の作業がブロックされることはありません。