Anthropics Aufsichtsgremium verlangt überprüfbare Ergebnisse zur Kontrolle leistungsfähiger KI. Im ersten Public Benefit Report fordert der Long-Term Benefit Trust, unabhängige Prüfer sollten bestätigen können, dass die stärksten Modelle Missbrauch widerstehen und unter menschlicher Kontrolle bleiben. Anthropic verlinkte die Bilanz in einer Mitteilung vom 21. Oktober.
Die von Buddy Shah für den Trust unterzeichnete Stellungnahme unterscheidet zwischen geleisteter Arbeit und deren Wirkung. Der erste Bericht beschreibe überwiegend Anstrengungen; künftige Ausgaben sollten Ergebnisse zeigen. Sicherheitsprüfungen und das Verständnis der Systeme müssten schneller besser werden als deren Fähigkeiten.
Auch Anthropics eigene Bilanz benennt Grenzen: Die Ausrichtung von KI auf menschliche Ziele sei weiterhin ungelöst, und Verfahren zum Verständnis interner Vorgänge seien noch nicht zuverlässig genug. Der Bericht liefert damit die eigene Einschätzung des Unternehmens, keine unabhängige Bestätigung sicherer Modelle.
Der Trust lobt zugleich die Offenheit der Bilanz und Entscheidungen zugunsten des Gemeinwohls. Er fordert aber, Fortschritte künftig konkreter zu belegen. Seine bereits bestehenden Befugnisse zur Besetzung des Verwaltungsrats ersetzen solche technischen Nachweise nicht.