Auch der KI-Aufpasser braucht eine Sicherheitsprüfung: Fabien Roger fordert in einem neuen Fachbeitrag, die Ziele und Fehlannahmen von Überwachungsmodellen gesondert zu untersuchen. Ein Agent und sein Monitor könnten denselben Fehler machen. Der Beitrag erschien am 25. Oktober deutscher Zeit und gibt ausdrücklich Rogers persönliche Sicht wieder.
Roger verweist auf Anthropics frühere Untersuchung von Cybertests. Dort ließ sich ein nachträglicher Monitor von der Begründung eines Agenten überzeugen, das Geschehen sei nur simuliert. Andere blockierende Schutzsysteme hätten laut Anthropic eingegriffen. Die Ergebnisse betreffen unterschiedliche Schutzschichten.
Roger schlägt vor, gemeinsame blinde Flecken gezielt zu testen, etwa mit unterschiedlich trainierten Modellen und veränderten Testprotokollen. Auch die Begründungen der Monitore und ihre Reaktion auf erkannte Tests sollen untersucht werden.
Der Beitrag stellt Forschungsfragen und Empfehlungen vor, keine neue Messreihe. Eine absichtliche Zusammenarbeit zwischen Aufpasser und Agent nennt Roger als mögliches künftiges Risiko. Er belegt damit keinen solchen neuen Fall.