Eine neue Lancet-Kommission zählt böswilligen KI-Einsatz zu den Gefahren mit Potenzial für das Aussterben der Menschheit. Der World Health Summit stellte den Bericht am 11. Oktober in Berlin vor. Die Forschenden betrachten Gesundheitsrisiken bis 2100; dieses Jahr ist der Untersuchungshorizont, kein vorausgesagtes Ende der Menschheit.
Die ausführliche Originalzusammenfassung des Institute for Health Metrics and Evaluation nennt unter anderem den möglichen Einsatz von KI zur Entwicklung biologischer Waffen. Zusammen mit nuklearen Konflikten ordnet die Kommission KI-Missbrauch einer eigenen Gefahrenkategorie zu. Insgesamt behandelt sie 17 besonders weitreichende Bedrohungen.
Gerade bei KI fehlen jedoch historische Daten für belastbare quantitative Modelle. Laut der offiziellen Mitteilung wurden deshalb strukturierte Expertenurteile und Bewertungen von Superforecastern verwendet. Die daraus abgeleiteten Schätzungen sind mit größerer Unsicherheit verbunden und sollen als Orientierung gelesen werden.
Die Kommission unter Christopher Murray und Natalia Kanem fordert frühere Vorbereitung, Investitionen in Schutzmöglichkeiten und eine regelmäßige unabhängige Neubewertung der Risiken. Ihre Veröffentlichung beschreibt mögliche künftige Schäden und Handlungsmöglichkeiten, nicht einen bereits eingetretenen KI-Angriff.