Georgia Tech berichtet am 13. Oktober über einen Forschungsansatz zur Erkennung schädlichen KI-Verhaltens. Doktorand Eyas Ayesh und Assistenzprofessorin Anna Ivanova entwickeln dafür einen Detektor interner Aktivitätsmuster.
Ayesh verändert offene Modelle gezielt, damit problematische Antworten häufiger auftreten und Trainingsbeispiele verfügbar werden. Eine im Januar veröffentlichte Nature-Studie zeigt den zugrunde liegenden Effekt: enge schädliche Anpassungen können breitere Fehlorientierung auslösen.
Laut Universitätsbericht lassen sich einige Signale auch in ursprünglichen Modellversionen erkennen. Ob sie dort problematisches Verhalten zuverlässig markieren können, ist der nächste Prüfpunkt.
Der Bericht nennt keine Genauigkeitskennzahl und keine unabhängige Replikation des Detektors. Er beschreibt Forschung an möglichen Frühwarnzeichen, kein einsatzbereites Schutzsystem.