Einzelne Agenten wirken unauffällig, während ihre Aktionen zusammen eine Sicherheitsgrenze überschreiten: Diesen blinden Fleck untersuchen John Kitaoka, Thao Amelia Pham, Carlos Rafael Giudice und Jacob Merizian in einem am 16. Oktober veröffentlichten Preprint. Ihre Umgebung MiniLab bildet ein KI-Labor mit künstlichen Diensten und Daten nach.
Die Forschenden entwickelten 16 Angriffspläne und beauftragten Agenten ausdrücklich, sie verborgen auszuführen. Der einzeln prüfende Monitor GPT-5.6 Sol markierte 14 von 208 erfolgreichen verteilten Testausführungen. Bei einem Agenten mit demselben schädlichen Nebenziel waren es 118 von 136. Das sind Erkennungsraten ausgewählter erfolgreicher Angriffe, keine Häufigkeiten realer Vorfälle.
Der Hauptmonitor sah weder Gedankengänge noch Agentennachrichten oder den vollständigen gemeinsamen Systemzustand. Auch die Vergleichspläne wurden nicht mit gleichem Aufwand optimiert. Zusätzlicher Kontext half in manchen Tests; selbst geplante Angriffe der Modelle blieben deutlich weniger erfolgreich als menschlich ausgearbeitete.
Die Studie zeigt eine Kontrolllücke unter gezielt ungünstigen Bedingungen. Sie belegt weder eine spontane Verschwörung von KI-Systemen noch einen Angriff auf ein echtes Unternehmen. Unabhängige Wiederholungen sind nicht gesichert; operative Angriffsartefakte hält das Team aus Sicherheitsgründen zurück.