Vertreter von OpenAI, Anthropic, Meta und Google haben am 5. Oktober in einer öffentlichen Anhörung des New Yorker Stadtrats keine prozentuale Wahrscheinlichkeit für eine durch KI verursachte Katastrophe genannt. Ratsvorsitzende Julie Menin fragte die Unternehmen unter Eid nach ihrer Einschätzung. Die Antworten verwiesen auf Sicherheitstests, fehlende Vergleichsdaten und die Grenzen von Prognosen.

Morgan Dwyer, bei OpenAI für die Entwicklung und Umsetzung von Richtlinien zuständig, sagte, sie kenne die Wahrscheinlichkeit nicht. Eine Zahl von einem, zehn oder zwanzig Prozent wäre gleichermaßen inakzeptabel; entscheidend sei ein belastbarer Nachweis menschlicher Kontrolle. Die Beispiele waren keine eigene Risikoschätzung von OpenAI.

Anthropics Frontier-Red-Team-Leiter Logan Graham beschrieb Forschung zu biologischen, Cyber- und Kontrollrisiken, nannte aber ebenfalls keinen Prozentsatz. Metas Shane Cahill verwies auf Tests und das unternehmenseigene Rahmenwerk und wollte unpräzise Angaben vermeiden. Alice Friend von Google unterschied messbare Fähigkeiten von der Frage nach einer künftigen Katastrophe: Für deren Wahrscheinlichkeit fehle eine belastbare Vergleichsgrundlage.

Zuvor hatten die ehemaligen KI-Forscher Sammie Coxon, Daniel Kokotajlo und Alex Turner vor schwer kontrollierbaren Systemen und einer Beschleunigung durch KI-gestützte Forschung gewarnt. Sie verlangten mehr Transparenz, unabhängige Prüfungen oder Beschränkungen besonders leistungsfähiger Systeme. Ihre Prognosen und Bewertungen blieben persönliche Einschätzungen, keine nachgewiesenen künftigen Ereignisse.

Auf eine spätere Frage nach möglichen Betroffenen in New York sagte Dwyer, ihr seien solche Fälle nicht bekannt. OpenAIs Untersuchung möglicher Agentenvorfälle seit November 2025 laufe weiter. Das Unternehmen werde betroffene Dritte benachrichtigen und Ergebnisse veröffentlichen; diese Zusage gelte auch für Betroffene in New York, wenn die Untersuchung sie identifiziere. Damit ist nicht festgestellt, dass die Stadt oder ihre Einrichtungen unbetroffen sind.

Die Aussagen erfolgten während der Beratung vorgeschlagener städtischer KI-Schutzmaßnahmen. Der zuvor veröffentlichte Entwurf zu menschlicher Abschaltkontrolle und unabhängiger Validierung ist weiterhin ein Vorschlag. Die Anhörung liefert nun tatsächliche Antworten der Unternehmen, nicht nur ihre Einladung zu dem Termin.