Ladish warnt vor KI, die ihre Nachfolger selbst entwickelt

Was geschieht, wenn KI ihre Nachfolger schneller entwickelt, als Menschen sie kontrollieren können? Jeffrey Ladish sieht darin eine mögliche Schwelle zum Kontrollverlust. Der Leiter von Palisade Research warnte im am 8. Oktober veröffentlichten Interview bei The Diary Of A CEO vor einer solchen Rückkopplung.

Im Gespräch mit Steven Bartlett beschreibt Ladish die Gefahr, dass leistungsfähigere Modelle immer stärker an der Entwicklung der nächsten Generation mitwirken. Daraus könnte nach seiner Einschätzung ein sich beschleunigender Prozess entstehen. Dass menschliche Aufsicht dabei zurückfällt, ist seine Warnung, kein im Interview nachgewiesener zukünftiger Verlauf.

Eine Bremse sieht er bei der Rechenleistung. Ladish unterstützt den Vorschlag, weniger davon für neue, leistungsfähigere Modelle zu verwenden und stärker die bereits verfügbaren Modelle für Kunden zu betreiben. Die Regierung solle eine solche Verschiebung verlangen, sagt er. Er beschreibt eine mögliche politische Vorgabe, nicht eine bereits umgesetzte Anordnung.

Ladish hatte vor der Gründung von Palisade am Aufbau der Informationssicherheit bei Anthropic mitgearbeitet. Palisade selbst fordert, keine Superintelligenz zu bauen, solange das wissenschaftliche Verständnis für ihre Ausrichtung an menschlichen Interessen fehlt. Die Warnung ist also zugleich Teil einer ausdrücklich vertretenen politischen Position. Ob die vorgeschlagene Rechenbremse ausreichenden Schutz bieten würde, bleibt offen.