Google, Anthropic, Meta, OpenAI, xAI und Nvidia haben am 29. September eine gemeinsame Sicherheitszusage im Weißen Haus unterzeichnet. Das vom offiziellen Rapid-Response-Konto veröffentlichte Dokument trägt die Unterschriften von Donald Trump und den sechs Unternehmensvertretern Sundar Pichai, Dario Amodei, Mark Zuckerberg, Greg Brockman, Elon Musk und Jensen Huang.
Die Unternehmen beschreiben vier Ebenen: Kontrollen während Training und Einsatz, ein internes Team mit Befugnissen zur Prüfung und Behebung von Mängeln, unabhängige externe Prüfer sowie ein unabhängiges Vorstandsgremium. Die Kontrollen sollen unter anderem gefährliche Fähigkeiten erkennen und verhindern, dass Systeme unbeabsichtigt hacken oder auf Ressourcen zugreifen.
Die Beteiligten wollen sich regelmäßig über Standards und Erfahrungen austauschen. Das Dokument hält künftige Gesetze oder Regeln für möglich, erklärt die Zusage aber unabhängig davon. Es ist eine freiwillige Verpflichtung; veröffentlichte Prüfergebnisse oder Belege für eine vollständige Umsetzung liegen diesem Eintrag nicht zugrunde.
Die Alignment-Forscherin Victoria Krakovna bezeichnete einzelne Zusagen in einem eigenen Beitrag als vielversprechend und gab den Text wieder. Ihre Zustimmung belegt weder eine Arbeitgeberposition noch eine weitere Vereinbarung. AI Incidents erfasst das Abkommen als Risk Signal. Die Unterzeichnung ist kein neuer KI-Vorfall und kein Beweis, dass die genannten Risiken bereits beherrscht werden.