Zwei Forscher haben ihren Abschied von Google DeepMind mit Bedenken über militärische KI und unzureichende Aufsicht begründet. Die BBC veröffentlichte am 21. Oktober direkte Interviews mit der Forschungsingenieurin Sofia Liguori und dem KI-Forscher Andreas Kirsch. Liguori hatte bereits am Vortag in einem eigenen Beitrag ihren letzten Arbeitstag bekanntgegeben.
Liguori kritisiert Googles zunehmende Arbeit mit militärischen und Überwachungssystemen. Sie warnt davor, die Risikodebatte allein auf Agenten zu begrenzen, die ihren Auftrag überschreiten: Auch die bewusste Integration von KI in sensible Systeme müsse geprüft werden. Ihre Einschätzung über die Folgen dieser Entwicklung ist ausdrücklich ihre persönliche Position.
Kirsch sagte der BBC, er halte Googles Aufsicht nicht für ausreichend, um KI in militärischen und geheimen Umgebungen sicher einzusetzen oder künftig künstliche Superintelligenz sicher zu entwickeln. Nach seiner Einschätzung habe Google nur begrenzten Einblick und Einfluss auf die Nutzung beim Pentagon. Aktuelle Modelle seien für militärische Aufgaben nicht robust genug. Vollständige Verträge liegen diesen Aussagen nicht als unabhängig geprüfter Nachweis bei.
Google erklärte gegenüber der BBC, öffentliche Aufträge würden nach einem einheitlichen Verfahren und unter Beachtung der Nutzungsrichtlinien und KI-Prinzipien geprüft. Beschäftigte hätten eigene Kanäle für Bedenken; Unternehmensregeln sollten Vergeltungsmaßnahmen verhindern. Diese Antwort steht den Einschätzungen der ausgeschiedenen Beschäftigten gegenüber.
Die BBC befragte außerdem die frühere OpenAI-Geopolitik-Verantwortliche Sarah Shoker. Sie warnte, KI könne die Zeit für Entscheidungen so stark verkürzen, dass Menschen große Mengen vorgeschlagener Ziele kaum sinnvoll auf Fehler prüfen könnten. Das beschreibt eine Sorge über menschliche Aufsicht, nicht den technischen Nachweis eines bestimmten Fehlangriffs. Für Kirsch nennt der Bericht keinen genauen Austrittstag und keinen Beleg einer mit Liguori abgestimmten Kündigung.