US-Senator Bernie Moreno hat Anthropic-Chef Dario Amodei in einem Brief vom 5. Oktober vorgeworfen, die öffentliche Debatte über besonders leistungsfähige KI zu stark auf mögliche Katastrophen auszurichten. Der Republikaner aus Ohio fordert stattdessen mehr Aufmerksamkeit für Anwendungen, die Sicherheitsbedrohungen abwehren sollen.
Moreno richtet seine Kritik ausdrücklich gegen den Ton der Warnungen. Er verweist auf frühere Aussagen des ausgeschiedenen Anthropic-Forschers Jacob Coxon, des Sicherheitsforschers Evan Hubinger und Amodeis selbst. Die darin genannten Katastrophenwahrscheinlichkeiten sind persönliche Einschätzungen der jeweiligen Sprecher, keine gemessenen Risiken.
Der Senator verlangt, KI stärker zur Absicherung kritischer Infrastruktur und gegen Cyberangriffe einzusetzen. Er verbindet dies mit nationaler Sicherheit und dem Wettbewerb mit China. Risiken leistungsfähiger Systeme müssten angegangen werden, schreibt Moreno, dafür müsse ihre Entwicklung aber nicht angehalten werden.
Der dreiseitige, unterschriebene Brief dokumentiert eine politische Gegenposition zu den jüngsten Warnungen, keine technische Sicherheitsprüfung. Die darin gelobte Unterschrift unter die White-House-Vereinbarung ist eine frühere Maßnahme. Eine neue öffentliche Antwort Amodeis auf diesen Brief ließ sich bei der Recherche nicht sichern.