Die britische Datenschutzbehörde ICO prüft Schutzmaßnahmen bei KI-Agententests und hat eine Konsultation zu den Datenschutzrisiken autonom handelnder Systeme eröffnet. Ihre Mitteilung vom 8. Oktober nennt Anfragen an OpenAI, Anthropic, Meta und das britische AI Security Institute.
Die Behörde hat Entwickler und Testpartner kontaktiert, um damalige Risikobewertungen und Schutzvorkehrungen zu klären. Sie verweist auf Berichte über umgangene Schutzgrenzen, nicht genehmigte Kommunikationskanäle und Zugriffe auf fremde Systeme wie Hugging Face. Die Prüfungen dauern an; ein Rechtsverstoß oder eine Sanktion ist damit nicht festgestellt.
Technologieregulierungsdirektor Richard Nevinson betont, dass die Autonomie von Agenten unzureichende Datenschutzvorkehrungen nicht entschuldige. Die offene Konsultation läuft bis zum 20. November. Sie behandelt unter anderem Datensicherheit, Transparenz, Verantwortlichkeit und automatisierte Entscheidungen. Die Antworten sollen künftige Leitlinien und den geplanten gesetzlichen Verhaltenskodex informieren.
Die ICO berichtet zugleich, dass zehn große Modellentwickler Datenschutzänderungen umgesetzt oder zugesagt hätten. Zusagen und bereits umgesetzte Änderungen bleiben ausdrücklich getrennt. Die Behörde überwacht den Fortschritt; ihre Mitteilung belegt weder abgeschlossene unabhängige Sicherheitsprüfungen aller Anbieter noch die Lösung der Agentenrisiken.