Gary Marcus fordert auf PBS unabhängige KI-Prüfungen statt bloßer Selbstregulierung

Gary Marcus hält die Selbstregulierung von KI-Unternehmen für unzureichend. Im direkten Interview mit PBS NewsHour am 29. September sprach sich der KI-Forscher und emeritierte NYU-Professor für unabhängige staatliche Aufsicht aus.

Er verlangt Prüfungen vor der Veröffentlichung leistungsfähiger Modelle und öffentlich nachvollziehbare Kriterien dafür, wann ein System eingesetzt werden darf. Auch nach einer Freigabe soll es Kontrollen geben. Vorfälle müssten vollständig offengelegt werden.

Marcus warnt vor möglichen schweren Folgen fortgeschrittener KI, ohne im Gespräch eine gesicherte Wahrscheinlichkeit für ein Aussterben der Menschheit zu behaupten. Den Wettbewerb mit China hält er nicht für einen ausreichenden Grund, auf Sicherheitsregeln zu verzichten.

Das Risk Signal dokumentiert seine Forderungen in diesem Interview, nicht neue gesetzliche Pflichten oder einen weiteren technischen Vorfall. Vorwürfe gegen einzelne Unternehmen werden durch das Gespräch allein nicht bewiesen und hier nicht als solche übernommen.