OpenAI-Chef Sam Altman hält die sichere Ausrichtung leistungsfähiger KI weiterhin für ungelöst. Im vollständigen Interview, das Fortune am 15. September veröffentlichte, sagte er, OpenAI habe Alignment nicht gelöst. Nach seiner Einschätzung gelte das auch für andere Labore.
Alignment bezeichnet hier die Ausrichtung eines Systems an menschlichen Absichten. Altman warnt davor, aus kooperativem Verhalten heutiger Modelle auf die Sicherheit der nächsten Leistungsstufe zu schließen.
Vor einem solchen Trainingslauf verlangt er einen glaubwürdigen Nachweis, dass die beteiligten Modelle kontrollierbar und überwachbar sind. Wenn das nicht gelingt, müsse ein Unternehmen pausieren. Seine Aussage beschreibt eine Bedingung für künftige Entwicklung.
Fortune griff das Gespräch am 5. Oktober erneut auf. Die Einschätzung stammt aus September; bereits am 13. September berichtete ThePrint darüber. Eine genaue Prozentzahl für ein katastrophales KI-Risiko wollte Altman im Interview nicht vertreten.