Daten herausfiltern heißt nicht, Fähigkeiten dauerhaft aus einem KI-Modell zu entfernen. Zu diesem Ergebnis kommt das britische AI Security Institute in einer am 26. Oktober veröffentlichten Bewertung von Proteinmodellen mit offen verfügbaren Gewichten.
In den Tests schwächte die Auswahl der Trainingsdaten gezielt bestimmte Modellfähigkeiten, während andere weitgehend erhalten blieben. Spätere Anpassungen konnten die zuvor verlorene Leistung jedoch wiederherstellen. Das Institut hält Datenfilter deshalb allein nicht für einen robusten dauerhaften Schutz und fordert ergänzende Maßnahmen, etwa eine bessere Kontrolle des Zugangs zu Modellen und Daten.
Die Grenzen sind wichtig: Untersucht wurde nur die Modellfamilie ESM-2, mit jeweils einem Trainingsstart pro Modell. Die Kostenmessung war ungenau; auf andere Architekturen lassen sich die Ergebnisse nicht ohne Weiteres übertragen.
Der zugrunde liegende Preprint erschien am 19. Oktober. Der neue Institutsbeitrag ordnet die Ergebnisse für Schutzmaßnahmen ein. Die Arbeit dokumentiert kontrollierte Forschung, keinen beobachteten biologischen Missbrauch und keine eigenmächtige Aktion eines KI-Systems.