Kaspersky empfiehlt, irreversible Aktionen von KI-Agenten nur nach ausdrücklicher menschlicher Bestätigung zuzulassen. Die am 7. Oktober veröffentlichten Leitlinien richten sich an Unternehmen, die Agenten in ihre IT einbinden.
Sprachmodelle und externe Eingaben sollen nach dem Vorschlag zunächst als nicht vertrauenswürdig gelten. Getrennte Ausführungsumgebungen und möglichst wenige sicherheitskritische Komponenten sollen den möglichen Schaden begrenzen.
Werkzeugaufrufe einschließlich ihrer Argumente und der Netzwerkverkehr sollen klaren Freigaberegeln unterliegen. Kaspersky empfiehlt außerdem, einzelne Agenten voneinander zu isolieren und eigenständige Änderungen an ihren Softwarezulieferungen zu verhindern.
Forschungsleiter Vladislav Tushkanov begründet den Ansatz mit dem unvorhersehbaren Verhalten von Sprachmodellen. Die Mitteilung enthält Architekturvorschläge, aber keine unabhängige Messung ihrer Wirksamkeit. Der ergänzende Bericht wird über ein Kontaktformular angeboten.