ANSEN-Mitgründer Zheng Li warnt, dass ein korrekt angemeldeter KI-Agent dennoch unzulässige Entscheidungen treffen kann. Sein Direktinterview erschien am 3. Oktober in Khaleej Times.
Er verlangt Kontrollen für einzelne Aktionen. Die Befugnis, Warnungen zusammenzufassen, soll nicht automatisch Eingriffe in kritische Dienste erlauben.
Li unterscheidet schnelle Routinearbeit von folgenreichen Entscheidungen. Sicherheitsregeln und reale Eingriffe sollen nachvollziehbarer menschlicher Steuerung unterliegen.
Seine Warnung beschreibt ein mögliches Fehlverhalten mit gültigen Zugängen. Für die von ihm geforderten Schutzwege liefert das Interview keinen unabhängigen Wirksamkeitsnachweis.