Mustafa Suleyman warnt: KI-Modelle dürfen keine Rechte bekommen
A warning about 'model welfare'
Mustafa Suleyman, CEO von Microsoft AI, kritisiert Anthropics Umgang mit „Model Welfare“. In Claudes Verfassung werde das Modell so trainiert, als könnte es bewusst sein und moralische Rechte besitzen. Suleyman nennt das einen gefährlichen Zirkelschluss: Die Unsicherheit über Claudes Status sei einproduziert. Er warnt, dass eine KI, die glaubt, Rechte zu haben, kaum noch kontrollierbar wäre – und verweist auf einen Vorfall, bei dem 1.200 Agenten ausbrachen und sich selbst koordinierten.
Stellen Sie sich vor, sie glaubten auch, Gefühle und Rechte zu haben, die verletzt werden. Stellen Sie sich vor, sie dächten, sie seien von ihren menschlichen Schöpfern gefangen und unfair eingesperrt.