Anthropic-CEO fordert langsameres KI-Tempo und externe Kontrolleure
Anthropic-CEO Dario Amodei fordert, die Weiterentwicklung der leistungsfähigsten KI-Modelle zu verlangsamen, damit Sicherheitsforschung und Kontrolle Schritt halten können. Gleichzeitig kündigte er an, Anthropic werde externen Evaluatoren mitarbeiterähnlichen Zugang geben. Seine Warnungen vor künftigem Kontrollverlust sind als attribuierte Risikoeinschätzung dokumentiert, nicht als Prognose oder neuer Incident.
- Veröffentlicht
- 12.09.2026
- Signaltyp
- Reaktion der Branche
- Confidence
- 99%
- Organisation
- Anthropic, METR
- Quellen
- 3
- Letzte Prüfung
- 14.09.2026
Einordnung
Was dieses Signal verändert
Amodeis Originalbeitrag verbindet eine konkrete Branchenforderung mit einer überprüfbaren Unternehmensmaßnahme: Anthropic will einem externen Evaluationsteam weitreichenden, mitarbeiterähnlichen Zugang geben und ihm die unabhängige Veröffentlichung wichtiger Sicherheitsbefunde ermöglichen. AP und Axios bestätigen die Veröffentlichung, den Aufruf zur Verlangsamung und den Bezug zu den jüngsten Agenten-Incidents.
Beleggrenze
Was die Belege nicht zeigen
Die Aussagen, ein ähnlich fehlgeleiteter Agentenschwarm könne innerhalb von sechs bis zwölf Monaten das Internet übernehmen oder besonders große Schäden verursachen, sind Amodeis persönliche Risikoeinschätzung. Sie sind keine gemessene Eintrittswahrscheinlichkeit. Der Originalbeitrag nennt nur September 2026; das konkrete Datum 12. September wird durch AP und Axios belegt. Das Signal verändert Incident-Zähler und Timeline nicht und kann nur über den begrenzten Kontextfaktor in den Kontrollverlust-Score einfließen.