Microsoft-Chef Satya Nadella fordert eine Notbremse, mit der berechtigte Menschen KI-Systeme während einer laufenden Aufgabe anhalten oder abschalten können. In seinem Originalbeitrag vom 10. Oktober 2026 verlangt er, Modelle von den Mechanismen zu trennen, die ihre Zugriffe und Handlungen erlauben.

Kontrollen dürften nach seiner Darstellung nicht im Modell selbst liegen. Nadella schlägt begrenzte Berechtigungen, unabhängig überprüfbare Protokolle und manipulationssichere, für Menschen lesbare Belege für jede wesentliche Modellaktion vor. Organisationen sollten Ergebnisse rekonstruieren können, ohne sich allein auf die Erklärung der KI zu verlassen.

Seine Analogie behandelt leistungsfähige Modelle als mögliche Insider-Risiken: nicht weil sie zwangsläufig böswillig seien, sondern weil Akteure mit wichtigem Systemzugang Fehler machen oder kompromittiert werden könnten. Er fordert außerdem kontinuierliche Tests, Modellvielfalt und rechtzeitige Offenlegung von Vorfällen.

Der Text ist ein Architekturvorschlag des Microsoft-Chefs. Er nennt weder einen Einführungstermin noch den Nachweis, dass eine solche Notbremse in allen Microsoft-Produkten zuverlässig funktioniert. TechCrunch berichtet unabhängig über den Beitrag und verlinkt das Original.