Ehemaliger Anthropic-Sicherheitsforscher Joe Benton warnt vor Kontrollverlust und fordert Transparenz
Joe Benton erklärte, er habe Anthropic verlassen, weil führende KI-Unternehmen aus seiner Sicht zu wenig in Sicherheit investierten und die Öffentlichkeit über Kontrollverlust, Sicherheitsvorfälle und Fortschritte bei selbstverbessernden Systemen nicht ausreichend informiert werde. Er wechselt zu METR, um unabhängige Bewertungen zu unterstützen. Seine Aussagen sind eine fachlich begründete Warnung und keine empirische Prognose, dass ein Kontrollverlust eintreten wird.
- Veröffentlicht
- 11.09.2026
- Signaltyp
- Insider-Warnung
- Confidence
- 99%
- Organisation
- Anthropic, METR
- Quellen
- 3
- Letzte Prüfung
- 14.09.2026
Einordnung
Was dieses Signal verändert
Benton leitete nach eigenen Angaben bei Anthropic ein Team für skalierbare Aufsicht und beschreibt einen strukturellen Konflikt zwischen dem Wettlauf um leistungsfähigere Systeme und ausreichenden Sicherheitsinvestitionen. Er fordert Berichtspflichten für Vorfälle und Beinahe-Ereignisse, Mindeststandards und unabhängige Prüfungen. Sein Originalbeitrag, seine persönliche Website und die unabhängige Berichterstattung der Associated Press belegen Rolle, Wechsel zu METR und Kernaussagen.
Beleggrenze
Was die Belege nicht zeigen
Bentons Aussagen zu möglicher Superintelligenz, Kontrollverlust und existenziellen Folgen sind seine Einschätzung. Sie belegen weder eine bereits eingetretene Intelligenzexplosion noch einen bevorstehenden Kontrollverlust oder eine bestimmte Eintrittswahrscheinlichkeit. Der Wechsel zu METR ist keine unabhängige Bestätigung seiner Risikoprognose. Das Signal verändert Incident-Zähler und Timeline nicht und kann nur über den begrenzten Kontextfaktor in den Kontrollverlust-Score einfließen.