Wer prüft, ob leistungsfähige KI-Agenten tatsächlich unter Kontrolle bleiben? Bei einer Anhörung eines Unterausschusses des US-Senats am 30. September legten fünf Fachleute unterschiedliche Antworten vor. Ihre schriftlichen Aussagen behandeln den Zugang zu KI-Laboren, die Grenzen von Überwachung und mögliche Haftungsregeln.
METR-Präsident Chris Painter verlangt mehr öffentlich zugängliche Erkenntnisse darüber, was intern eingesetzte Agenten können, welche unerwünschten Handlungen auftreten und wie wirksam Schutzmaßnahmen sind. Er betont zugleich, dass METR keine politischen Positionen vertritt. Die frühere Untersuchung des Hugging-Face-Vorfalls sei begrenzt gewesen und keine umfassende Sicherheitsprüfung des Unternehmens.
Apollo-Chef Marius Hobbhahn schlägt unabhängige Prüfer mit tiefem Zugang während der Entwicklung und Nutzung vor. Hinzu kommen durchgängige Überwachung, der Erhalt lesbarer und verlässlicher Gedankenspuren sowie mehr Forschung zu vorhersagbarer Sicherheit. Diese Instrumente sind seine Empfehlungen, kein Nachweis bereits erreichter Kontrolle.
Georgetown-Rechtsprofessor Paul Ohm empfiehlt, bestehende Klagemöglichkeiten zu erhalten und zusätzliche Haftungsregeln für schwere Schäden zu erwägen. Er erklärt ausdrücklich nicht, ob OpenAI im Hugging-Face-Fall wegen Fahrlässigkeit haften würde. Daniel Kokotajlo vom AI Futures Project fordert unabhängigen Zugang zu Vorfallsprotokollen und Informationen über den Recheneinsatz. Außerdem möchte er Ressourcen von der beschleunigten KI-Selbstverbesserung zu nützlichen Anwendungen verlagern.
Dragos-Manager Kurt Gaudette setzt einen anderen Schwerpunkt: industrielle Anlagen brauchen nach seiner Einschätzung grundlegende Schutzmaßnahmen, Überwachung und Reaktionsfähigkeit. KI-gestützte Angriffe machten bewährte Verteidigung nicht grundsätzlich nutzlos. Seine Beispiele menschlich gesteuerter Angriffe und beauftragter Tests werden hier nicht als autonome KI-Incidents gezählt.
Dieses Risk Signal dokumentiert die Anhörung und die den einzelnen Zeugen zugeordneten Vorschläge. Daraus folgt weder ein gemeinsamer Beschluss noch ein neues Gesetz. Bereits bekannte Vorfälle werden durch ihre erneute Erörterung nicht zu weiteren Incidents.