Anthropic wirbt in Washington für einen eigenen Gesetzentwurf zur Sicherheit besonders leistungsfähiger KI. Ein Sprecher bestätigte gegenüber Politico und Reuters, dass der Vorschlag auf dem im Juni veröffentlichten Advanced AI Framework beruht. Das Unternehmen nennt Modelltests, öffentliche Informationen über Ergebnisse und unabhängige Prüfungen als zentrale Elemente.
Nach Politicos Bericht soll die Regierung eine Freigabe oder Nutzung nur bei vorhersehbaren, unmittelbar drohenden Risiken von mehr als einer Milliarde Dollar Schaden oder mehr als 50 Toten beziehungsweise Schwerverletzten stoppen lassen können. Die beschriebenen Risiken betreffen biologische Waffen, Cyberangriffe und Modelle, die sich den Kontrollen ihrer Entwickler entziehen.
Reuters berichtet außerdem von regelmäßigen Prüfungen durch beim Handelsministerium registrierte externe Prüfer. Ein Stopp solle über ein Bundesgericht erfolgen. Diese Einzelheiten stammen aus der Berichterstattung über den vertraulichen Entwurf; die Reichweite staatlicher Eingriffsrechte ist politisch umstritten.
Alex Bores kritisierte in seinem eigenen Beitrag, der an das Juni-Konzept angelehnte Vorschlag halte mit den jüngsten Entwicklungen nicht Schritt. Zamaan Qureshi forderte besseren internen Zugang für Prüfer, rechtzeitige Meldungen und Spielraum für strengere Regeln der Bundesstaaten.
Charlie Bullock begrüßte dagegen, dass ein führendes KI-Unternehmen überhaupt einen konkreten Sicherheitsentwurf vorlegt. Er lobte vorgesehene laufende Prüfungen und Informationszugänge, hielt Regelsetzungs- und Notstoppbefugnisse aber für schwächer als beim FRONTIER Act. Das ist seine Bewertung des Vorschlags.
Nat Purser schlug konkretere Nachbesserungen vor: Prüfer sollten weder von den kontrollierten Unternehmen ausgewählt noch bezahlt werden. Behörden müssten Korrekturen wirksam erzwingen und Mindeststandards mit wachsenden Fähigkeiten anpassen können. Darum dreht sich die offene Auseinandersetzung: wie viel unabhängige Kontrolle ein Bundesgesetz tatsächlich ermöglichen soll.