本文へスキップ
← ニュース一覧
Databricks Blog2026年8月10日

結合されるまで無罪:Omnigent Contextual Policiesによる「lethal trifecta」の阻止

英語原文から AI が翻訳しました。 英語版を見る

要約

Omnigent Contextual Policiesは、セッションコンテキストを追跡し、プライベートデータへのアクセスと信頼されていないコンテンツへの曝露が組み合わさった瞬間にアウトバウンドステップをブロックすることで、AIエージェントのデータ持ち出しを防ぎます。

* 課題:プライベートデータへのアクセス、信頼されていないコンテンツへの曝露、外部へのデータ送信能力という3つの機能が1つのセッションで揃ったとき、エージェントは危険になります。Simon Willisonはこれを「lethal trifecta」と名付けました。どの1つ単独では無害ですが、組み合わせることでデータ持ち出しにつながります。 * 防御策:セッションがどの条件に触れたかを追跡し、2つが点灯した時点でアウトバウンドステップをブロックします。プライベートデータが持ち出しチャネルに到達することはなく、エージェントはそれ以外の時間帯は通常通り動作し続けます。 * 条件の定義者:エージェント自身ではなく、人間の管理者がエージェント設定で各条件を定義します。ポリシーは、データが実際にアクセスされた場合にのみ条件を点灯させます。通常の単一条件の作業がブロックされることはありません。

関連記事

News

Unity Gateway Insightsの発表

databricks-blog10h ago
News

MicrosoftエコシステムにおけるGenieの最新情報:Copilot Cowork、チャット、Microsoft Teams、Excelの統合

databricks-blog16h ago
News

AUMOVIOがDatabricks Unity GatewayでAIアクセスを共通化した方法

databricks-blog18h ago
News

Databricksのクラスターレート制限を7.5倍に引き上げた方法

databricks-blog1d ago