Unschuldig bis zur Kombination: Blockierung der lethal trifecta mit Omnigent Contextual Policies
Von KI aus dem englischen Original übersetzt. Auf Englisch ansehen
Omnigent Contextual Policies stoppen die Exfiltration von KI-Agentendaten, indem sie den Sitzungskontext verfolgen und ausgehende Schritte blockieren, sobald der Zugriff auf private Daten und die Exposition gegenüber nicht vertrauenswürdigen Inhalten zusammenkommen.
* Die Lücke: Ein Agent wird gefährlich, wenn drei Fähigkeiten in einer Sitzung zusammentreffen: Zugriff auf private Daten, Exposition gegenüber nicht vertrauenswürdigen Inhalten und die Fähigkeit, Daten nach außen zu senden. Simon Willison nannte dies die lethal trifecta. Jedes einzelne Bein ist harmlos, aber die Kombination führt zur Datenexfiltration. * Die Abwehr: Verfolgen, welche Beine eine Sitzung berührt hat, und den ausgehenden Schritt blockieren, sobald zwei davon aktiv sind. Die privaten Daten erreichen den Exfiltrationskanal nie, und der Agent arbeitet die restliche Zeit normal weiter. * Wer die Beine definiert: Ein Mensch definiert jedes Bein in der Agentenkonfiguration, niemals der Agent selbst. Die Richtlinie aktiviert ein Bein erst, wenn tatsächlich auf Daten zugegriffen wird. Gewöhnliche Ein-Bein-Arbeiten werden nie blockiert.