Die EU-Kommission verlangt von Anbietern besonders leistungsfähiger KI-Modelle Auskunft zu Sicherheit, unabhängiger Prüfung und Überwachung nach der Veröffentlichung. Exekutiv-Vizepräsidentin Henna Virkkunen beschrieb die bereits versandten Anfragen in ihrer am 9. Oktober veröffentlichten Rede an das KI-Wissenschaftspanel.
Das KI-Amt fragt unter anderem nach Schutzgrenzen, die Modelle nicht umgehen können, nachvollziehbaren Rechenzugriffen und ausreichendem Zugang für unabhängige Prüfer. Nach Virkkunens Angaben gehen Antworten der Anbieter ein.
Ein amtlicher Bericht vom 12. Oktober bestätigt, dass das Amt bereits ernsthafte Vorfallsberichte angefordert und erhalten hat. Weitere Auskunftsersuchen sollen die gemeinsamen Fragen des Wissenschaftspanels und des KI-Amts zu den jüngsten Vorfällen bündeln.
Die Leitung des Panels empfiehlt stärkere Kontrolle interner Entwicklungsmodelle, bessere Untersuchungskapazitäten und internationale Zusammenarbeit bei Krisenprävention. Sie fordert außerdem genauere Prüfung von Trainingsverfahren, die Modelle schwerer beobachtbar machen.
In ihrem veröffentlichten Dublin-Redetext vom 14. Oktober bekräftigt Virkkunen die Auskunftsersuchen und verlangt, dass KI unter menschlicher Aufsicht bleibt. Die Rede verbindet Sicherheitsaufsicht mit dem Ausbau europäischer KI-Fähigkeiten.
Die Redetexte sind als vorbereitete Fassungen gekennzeichnet. Die Quellen nennen weder Versandtermine und einzelne Antworten noch festgestellte Verstöße oder verhängte Strafen. Die zusätzlichen Anfragen und Empfehlungen sind angekündigte nächste Schritte.