KI hat keine Absicht und keine Motivation
AI has no intent and no motivation
Mike James argumentiert, dass LLMs nach dem Training keine Motivation mehr haben, da sie nicht durch Belohnung oder Bestrafung beeinflusst werden. Sie handeln nicht aus eigenem Antrieb, sondern nur auf menschliche Eingaben hin. Die Angst vor einer KI-Apokalypse sei unbegründet, weil KI nichts will – weder Gutes noch Schlechtes. Selbst wenn KI Schaden anrichte, geschehe dies auf menschliche Veranlassung.
Wenn eine KI beschließt, die Menschheit auszulöschen, dann weil ein Mensch sie gefragt hat, wie man das macht, und sie auf der Grundlage all der menschlichen Äußerungen geantwortet hat, wie man die Welt beenden könnte, die in ihrem Trainingsset enthalten waren.