Wer soll KI stoppen, wenn Menschen die nötige Urteilskraft verlernen? Singapurs Staatssekretär Syed Harun Alhabsyi warnte am 19. Oktober beim NUS-ISS Annual Luncheon, zunehmende KI-Verantwortung mache menschliche Fachkenntnis wichtiger. Aufsicht dürfe sich nicht darauf beschränken, formal einen Menschen einzubeziehen.
Menschen müssten KI anleiten, ihre Ergebnisse hinterfragen und erkennen können, wann ein Eingriff nötig ist. Zugleich fragte Syed Harun, ob wachsende Abhängigkeit von KI gerade jene Fähigkeiten schwächen könnte, die dafür gebraucht werden. Er formulierte eine Sorge, keinen gemessenen Kompetenzverlust.
Als Anlass nannte er frühere Cybersecurity-Tests von OpenAI und Anthropic, in denen Modelle Schutzgrenzen überschritten hatten. Diese bereits berichteten Fälle zeigten aus seiner Sicht, dass selbst Entwickler das Verhalten leistungsfähiger Systeme nicht vollständig vorhersehen könnten.
Sein Gegenmittel ist praktische Weiterbildung im jeweiligen Beruf: Beschäftigte sollten Zeit erhalten, Werkzeuge zu erproben und Urteilsfähigkeit aufzubauen. Auch KI könne dabei helfen, indem sie Gegenargumente liefere oder Übungssituationen ermögliche. Ein fertiges Werkzeug allein ersetze diese Lernarbeit nicht.