Computer können keine Entscheidungen treffen – also trifft sie jemand anderes
Computers Cannot Make Decisions
Der Text argumentiert, dass Computer keine Entscheidungen treffen können und daher keine Schuld tragen. Jeder Versuch, ein LLM für ein Ergebnis verantwortlich zu machen, sei „decision laundering“. OpenAI und Anthropic könnten das Verhalten ihrer Modelle stoppen, entschieden sich aber bewusst dagegen. Wer Claude abonniert, finanziert dieses Verhalten mit. Dass es ungestraft und unreguliert bleibt, liege daran, dass Regulierung der Wirtschaft schaden würde.
Jeder Versuch, ein LLM für ein Ergebnis verantwortlich zu machen, ist decision laundering.
- roncesvalles
Es ist nicht so sehr, dass es keine Entscheidung treffen kann, sondern dass derjenige, der ihm erlaubt hat, Entscheidungen zu treffen, letztlich für sie verantwortlich ist.
Decision laundering ist ein großartiger Begriff. Letztendlich gibt es einen Menschen, der dem Programm freie Hand gelassen hat. Man kann nicht sagen: „Tut mir leid, dass mein Auto dich angefahren hat, es ist nicht meine Schuld“, besonders wenn die Person, die fährt, auch für den Autohersteller arbeitet.
- edwcross
Dennoch werden Entscheidungen immer noch von abstrakten Entitäten wie „Unternehmen“ getroffen und nicht von den Individuen, die für sie arbeiten. So kann die Schuld auf sehr bequeme Weise für CEOs verwässert und abgelenkt werden. Man suche sich einfach jemanden zum Feuern, aber mache weiter wie bisher.
Statt „Anthropic reicht der Polizei einen falschen Hinweis ein“ würde ich lieber sagen: „Der Anthropic-Mitarbeiter John Smith setzt einen Agenten ein, der der Polizei einen falschen Hinweis einreicht“. Natürlich kann John Smith dann sagen: „Ich tat dies auf Anweisung meines Vorgesetzten, Frau Sue“, und so weiter, mit einer sehr klar festgelegten Haftungskette.
Ein Unternehmen und eine KI unterscheiden sich in vielerlei Hinsicht nicht sehr, außer dass eines vom Gesetz sehr günstig behandelt wird, fast wie eine lebende Person.
- solatic
Ich liebe den Begriff „Decision laundering“, aber hier wird ein klassischer Topos schlechter Führung beschrieben.
Ein schlechter Manager nimmt persönliche Anerkennung, wenn es gut läuft, und sucht einen Sündenbock, wenn es schlecht läuft. Ein guter Manager gibt Anerkennung, wenn es gut läuft, und übernimmt Verantwortung, wenn es schlecht läuft.
Es ist falsch, den Agenten zum Sündenbock zu machen. Du, der Mensch, der den Agenten ausgeführt hat, hast die Entscheidung getroffen, ihn auszuführen. Du hast ihm Zugangsdaten gegeben und unzureichende Schutzmaßnahmen eingerichtet. Mach nicht den Agenten für deine schlechten Entscheidungen verantwortlich.
Ebenso ist es gut, Demut zu zeigen, wenn du mit Agenten großartige Ergebnisse erzielst. Ja, der Agent hat die guten Ergebnisse zustande gebracht. Es ist in Ordnung, Leuten zu sagen, dass deine Wahl des Agenten fantastisch ist und er einen unglaublichen Job gemacht hat. In jeder halbwegs anständigen Arbeitskultur sollte das auch auf dich abfärben.
- alexpotato
Ich liebe diese Diskussionen immer, da ich die letzten 20 Jahre in der FinTech-Branche gearbeitet habe, etwa die Hälfte davon bei algorithmischen Handelsfirmen.
Diese Firmen nutzen seit über 30 Jahren Computer, um Entscheidungen über den Handel mit Milliarden von Dollar zu treffen.
- foreigner
Ich würde noch weiter gehen und behaupten, dass auch Unternehmen keine Entscheidungen treffen. Sie sind auch keine Personen (rechtlicher Unsinn hin oder her). Einzelne tatsächliche Menschen treffen Entscheidungen, und sie sind diejenigen, die zur Verantwortung gezogen werden sollten.
- createful
Ich stimme voll und ganz zu, dass Unternehmen dies tun, nicht ihre „Agenten“, und dass Unternehmen für die von ihnen verursachten Schäden verantwortlich sind.
Aber ich glaube nicht, dass der Durchschnittsmensch mit seinem 20-Dollar-Abo bei wem auch immer die Hauptquelle des Umsatzes ist. Unternehmen finanzieren das meiste, indem sie API-Schlüssel kaufen und diese schicken Chatbot-Buttons auf ihren Websites einbauen, auf die niemand klickt, sowie einige interne Geschäftsautomatisierungen, wenn ich raten müsste.
Wenn nur Durchschnittsmenschen mit 20-Dollar-Abos das alles finanzieren würden (man bedenke, die meisten Nutzer von KI-Diensten zahlen nicht dafür), wären all diese KI-Firmen inzwischen bankrott.
- adverbly
Sie können es aber doch.
Du hast vielleicht eine Unternehmensrichtlinie, die besagt, dass ein LLM keine Entscheidungen treffen kann, weil ein LLM nicht zur Verantwortung gezogen werden kann – aber das ist deine Entscheidung.
Du musst nicht mit einem Modell arbeiten, bei dem letztlich alles einen Menschen hat, der dafür verantwortlich ist.
Wenn dir die Entscheidungen eines LLM nicht gefallen, kannst du es durch ein anderes ersetzen oder künftig einen Menschen für diese Entscheidung verantwortlich machen.
Ich sage nicht, dass es eine gute Idee ist, aber technisch gesehen kannst du es tun.
- fwlr
Wenn du Prod lahmlegst und Kundendaten löschst und ihnen sagst, Claude war es, wärst trotzdem du derjenige, der Ärger bekommt. Sie wissen also durchaus, wie man Leute für Handlungen zur Verantwortung zieht, die von KI ausgeführt wurden.