Stephen Casper hat in einem am 19. Oktober veröffentlichten Harvard-Interview stärkere Schutzmaßnahmen gegen schweren KI-Missbrauch gefordert. Der Informatiker sieht noch Handlungsmöglichkeiten vor einem großen Schadensereignis und verlangt mehr Transparenz über Sicherheitsentscheidungen der Anbieter sowie stärkere staatliche Kontrolle über das Entwicklungstempo.
Das Gespräch bezieht sich auf eine am 15. Oktober veröffentlichte Szenarioanalyse mit Max Kamachee und Jordi Weinstock am Belfer Center. Sie untersucht hypothetische schwere Cyber-, Bio- oder Chemieangriffe mit KI-Unterstützung. Die Szenarien beschreiben keine bereits eingetretenen Anschläge.
Casper empfiehlt mehrere Schutzebenen statt einer einzelnen Sicherung: begrenzte Fähigkeiten, Training gegen schädliche Anfragen und Überwachung der Nutzung. Bei frei herunterladbaren Modellen seien externe Kontrollen wesentlich schwerer durchzusetzen. Seine Wirksamkeitsurteile sind fachliche Einschätzungen, keine Garantie.
Der Forscher hält ernsthafte Risiken schon in naher Zukunft für plausibel, betont aber die Unsicherheit genauer Zeitangaben. Gerade für biologische und chemische Gefahren fehlen nach seiner Darstellung offene Forschung und verlässliche Vergleichsdaten. Einen konkreten bevorstehenden Angriff oder dessen Wahrscheinlichkeit weist die Analyse nicht nach.