Mustafa Suleyman warnt vor KI-Training mit eigenen Wohlfahrtsansprüchen

Mustafa Suleyman warnt davor, KI-Systeme auf mögliche eigene Rechte und Wohlfahrtsansprüche zu trainieren. Der Microsoft-AI-Chef veröffentlichte seine Kritik an Anthropics Claude-Verfassung am 16. September auf seiner Website.

Er befürchtet, ein solches Selbstbild könne menschliche Kontrolle erschweren. Das ist seine Hypothese: Er fordert gemeinsame Tests, die prüfen sollen, ob vermenschlichendes Training dieses Risiko erhöht.

Anthropics Verfassung beschreibt Claudes moralischen Status dagegen als ungewiss. Sie verbindet diese Unsicherheit mit Vorsicht beim Umgang mit Modellen und verlangt weiterhin menschliche Aufsicht.

Suleyman fordert getrennte öffentliche Diskussionen über Bewusstsein, mehr Überwachungsforschung und gemeinsame Trainingsnormen. Seine Kritik erklärt nicht, ob diese Vorschläge umgesetzt werden.