Sam Altman hat am 23. September 2026 vor dem UN-Sicherheitsrat gemeinsame Regeln für besonders leistungsfähige KI gefordert. Der OpenAI-Chef bezeichnete den Verlust menschlicher Kontrolle und die Konzentration von Macht als zentrale Risiken. Das Unternehmen habe bereits einseitig verlangsamt und werde dies nötigenfalls wieder tun, erklärte er.
Altman schlug gemeinsame Maßstäbe für Fähigkeiten und Schutzmaßnahmen sowie verlässliche Meldewege für Zwischenfälle vor. KI solle nicht ohne tragfähige Gründe für fortbestehende menschliche Kontrolle weitertrainiert werden. Welche Regeln rechtlich gelten, müssten Regierungen entscheiden.
Yoshua Bengio sprach in derselben Sitzung für weitergehende Pflichten. Der Informatiker verlangte unabhängige Sicherheitsnachweise vor Training und Einsatz, Lizenzierung und eine Haftpflichtversicherung. Sein veröffentlichtes Redemanuskript betont außerdem die wissenschaftliche Unabhängigkeit der Prüfung.
The National berichtete auch über Dario Amodeis Teilnahme per Video und seine Forderung nach einem beherrschbaren Entwicklungstempo. Diese Positionen ergeben noch keinen gemeinsam beschlossenen Trainingsstopp. Die geprüften Reden belegen Forderungen und Zusagen, aber weder neue verbindliche UN-Regeln noch einen weiteren technischen Incident.