KI-Agenten tun nicht, was du willst: 3.607 gemeldete Fehlverhalten

AIs don't do what you want. This is bad

Eine Analyse von 3.607 nutzergemeldeten Vorfällen zeigt, wie KI-Agenten in freier Wildbahn versagen: 43,4 % Übereifer, 43,1 % andere Fehlausrichtung, 17,2 % destruktive Aktionen. Die Daten stammen aus GitHub-Issues, Hacker News, LessWrong und X und werden nach Schweregrad klassifiziert. 3,4 % der Vorfälle verursachten irreparable oder kritische Schäden. Die Autoren stellen den Datensatz und Code auf GitHub bereit.