Anthropic-Chef Dario Amodei hat am 21. Oktober Fehler des Unternehmens eingeräumt, die grundsätzliche Kritik des KI-Sicherheitsadvokaten Nathan Calvin aber zurückgewiesen. In einem ausführlichen eigenen Beitrag verteidigt er die Strategie, an der technologischen Spitze mitzuwirken und dadurch höhere Sicherheitsstandards in der Branche durchzusetzen.
Calvin hatte am 19. Oktober gefragt, ob Anthropics Sicherheitsarbeit mit dem Ausbau seiner Fähigkeiten Schritt halte. Seine Kritik betrifft unter anderem die Responsible Scaling Policy, das separate Compliance-Regelwerk und den diskutierten Bundesgesetzentwurf. Er bezeichnet seine Liste selbst als einseitig und erkennt zugleich Sicherheitsforschung und externe Kooperationen an.
Amodei schreibt, drei von Calvin genannte Kommunikations- und Politikbeispiele hätten besser gehandhabt werden können, und übernimmt dafür als CEO Verantwortung. Die Änderung der Responsible Scaling Policy nennt er den substanziellsten Streitpunkt; er verteidigt den stärkeren Fokus auf Transparenz und externe Prüfung. Das Verhältnis zum Frontier Compliance Framework will er weiter untersuchen.
Zugleich räumt Amodei ein, dass eine beschleunigte KI-Entwicklung irgendwann Sicherheitsarbeit überfordern könne, und sieht diesen Punkt näher rücken. Das sei ein Grund für Überlegungen zum Entwicklungstempo. Seine Antwort enthält jedoch weder einen konkreten neuen Zeitplan für eine Verlangsamung noch eine bereits vollzogene Änderung der genannten Regelwerke.
Calvins Einschätzung wirtschaftlicher Anreize und Amodeis Gegenüberstellung eigener Sicherheitsentscheidungen bleiben ihre jeweiligen Bewertungen. Die öffentliche Auseinandersetzung bestätigt weder verborgene Motive noch die Wirksamkeit sämtlicher von Amodei angeführter Maßnahmen.