Ein am 28. September 2026 vorgestelltes Arbeitspapier warnt vor Kontrollrisiken, wenn KI immer mehr ihrer eigenen Forschung und Entwicklung übernimmt. Zu den 22 Autoren gehören Alan Chan, Christoph Winter und Sören Mindermann sowie Forscher aus Hochschulen, Unternehmen und zivilgesellschaftlichen Organisationen.
Die untersuchte Rückkopplung ist einfach: Leistungsfähigere Systeme könnten die Entwicklung ihrer Nachfolger beschleunigen, die wiederum schneller forschen. Ob daraus eine sogenannte Intelligenzexplosion entsteht, bleibt offen. Das Papier beschreibt vorläufige und teils gemischte Evidenz; heutige Produktivitätsgewinne hätten die dafür nötige Schwelle noch nicht erreicht.
Die Autoren empfehlen standardisierte Berichte über interne KI-Forschung, unabhängige Prüfungen vor dem internen Einsatz und vorbereitete Eingriffsmöglichkeiten. Dazu zählen auch Verfahren, mit denen bestimmte Forschungsarbeiten bei Bedarf angehalten werden könnten. Rechenleistung, Daten und schwer automatisierbare Aufgaben können die angenommene Beschleunigung begrenzen.
Diese Vorschläge sind keine beschlossenen Regeln oder gemeinsame Verpflichtung der beteiligten Unternehmen. Das Papier weist ausdrücklich darauf hin, dass die Autoren ihre persönlichen Ansichten vertreten. AI Incidents erfasst die Veröffentlichung als Risk Signal; sie belegt keinen neuen realen Kontrollverlust.