Drei entlassene OpenAI-Sicherheitsforscher warnen vor einer Arbeitskultur, in der Angst und unklare Regeln die Sicherheitsarbeit behindern. Tomek Korbak, Jasmine Wang und Mikita Balesni veröffentlichten am 8. Oktober einen gemeinsamen Brief an die Sicherheits- und Aufsichtsgremien des Unternehmens.
Sie fordern anhaltenden Zugang für unabhängige Prüfer, die Erhaltung überwachbarer Modellarchitekturen und klare Regeln für den Austausch mit externen Sicherheitsorganisationen. Ihren früheren Kollegen müsse es möglich bleiben, Risiken offen anzusprechen.
Die Autoren bestreiten Fehlverhalten. OpenAI bestreitet Vergeltung und verweist auf Regelverstöße. Die Gründe für die Entlassungen bleiben umstritten.
Die drei befürchten, dass die Zusammenarbeit mit METR eingeschränkt werden könnte. Eine tatsächliche Beendigung dieser Zusammenarbeit belegt der Brief nicht. Ihre Forderungen betreffen die Kontrolle künftiger Systeme und den Umgang mit Sicherheitsbedenken.