Google Research hat am 5. Oktober einen Bericht über offene Sicherheitsfragen autonomer KI-Agenten veröffentlicht. Die Forschenden warnen, dass menschliche Freigaben bei langen Aufgaben und der Weitergabe von Arbeit an andere Agenten an Grenzen stoßen.
Wer ständig um Zustimmung gebeten werde, könne Freigaben erteilen, ohne jede Anfrage zu prüfen. Zugleich ändere sich während einer Aufgabe, welche Zugriffe angemessen seien. Eine einmal vergebene Berechtigung sage wenig darüber aus, ob eine spätere Handlung noch zum Auftrag passe.
Die Autoren schlagen deshalb eine zusätzliche Kontrollschicht vor. Sie soll geplante Aktionen anhand des aktuellen Auftrags und seines Kontexts prüfen und erlauben, blockieren oder zur Klärung vorlegen. Wie solche Regeln zuverlässig entstehen und durchgesetzt werden können, bleibt eine Forschungsfrage.
Der Bericht geht auf einen Workshop im November 2025 zurück. Er untersucht auch, wie Schutzgrenzen bei der Zusammenarbeit mehrerer Agenten erhalten bleiben. Die vorgeschlagenen Verfahren sind eine Forschungsagenda, kein Nachweis, dass diese Probleme bereits gelöst sind.