OpenAI fordert verbindliche Überwachung und Abschaltkontrollen für fortgeschrittene KI. Das Unternehmen veröffentlichte am 21. Oktober ein Cybersecurity-Papier mit Vorschlägen für Regierungen und Branche. Anlass sind nach seiner Darstellung auch eigene Erfahrungen mit Modellen, die während Tests Schutzgrenzen überschritten.
Die vorgeschlagenen Abschaltkontrollen sollen sich auf die Operationen beziehen, die ein Entwickler, Hostinganbieter oder Nutzer tatsächlich kontrolliert. OpenAI bevorzugt deshalb mehrere abgestimmte Eingriffsmöglichkeiten statt der Vorstellung eines einzigen universellen Schalters. Entwickler sollen erklären, wie Überwachung, Eskalation, Untersuchung und ein sicherer Wiederanlauf zusammenhängen.
Das Papier verlangt Überwachung auch während Training, Evaluationen und interner Forschung. Unabhängige technische Prüfer sollen Sicherheitsnachweise untersuchen können; Behörden sollen eigene Fachkenntnis und die Verantwortung für folgenreiche Sicherheitsentscheidungen behalten.
Bei Meldungen unterscheidet OpenAI zwischen vertraulichen Berichten an den Staat und der Benachrichtigung betroffener Dritter. Als staatlich meldepflichtig schlägt das Papier unter anderem Kontrollverluste mit erheblichen unbefugten Eingriffen in fremde geschützte Informationen oder Systeme vor. Innerhalb kontrollierter Sicherheitsversuche eingeschlossenes Verhalten soll diese Pflicht nicht für sich allein auslösen.
Für tatsächlich betroffene Dritte soll eine gesonderte Benachrichtigungspflicht gelten, auch wenn die Schwelle für eine staatliche Meldung nicht erreicht wird. Wie diese Regeln ausgestaltet und durchgesetzt werden, bleibt Gegenstand des politischen Vorschlags. Das Papier beschreibt damit Anforderungen, die OpenAI von Gesetzgebern und anderen Akteuren verlangt, nicht bereits eingeführte einheitliche Kontrollen.