OpenAI und das polnische Forschungsinstitut NASK wollen gemeinsam KI-Systeme prüfen und Schutzmaßnahmen stärken. OpenAI meldete die unterzeichnete Forschungsvereinbarung am 23. Oktober.
NASKs Zentrum für KI-Sicherheitsforschung soll mit OpenAI Bewertungsverfahren untersuchen und Schwachstellen identifizieren. Ein Prüfplan oder erste Ergebnisse wurden nicht veröffentlicht.
NASK-Direktor Radosław Nielek nennt auch den missbräuchlichen Einsatz von KI und Unterschiede zwischen Sprachen als Forschungsfelder. OpenAIs Europapolitikchef Tom Duff Gordon betont den Bedarf an einer Außenperspektive auf die eigenen Systeme.
Die Vereinbarung erweitert eine bestehende Zusammenarbeit. NASK hatte bereits im Juli Zugang zu OpenAIs Cyber-Modellen erhalten. Ob die jetzt angekündigte Forschung neue Kontrolllücken schließt, müssen spätere Ergebnisse zeigen.