Vom KI-Optimisten zum Doomer: Warum ich meine Meinung geändert habe
The Education of a Doomer
Der Autor beschreibt seinen Wandel vom KI-Optimisten zum besorgten Beobachter. Er analysiert wirtschaftliche Auswirkungen, Alignment-Probleme, den Verlust menschlicher Kontrolle und die Auswirkungen auf Schreiben und Softwareentwicklung. Seine These: KI könnte uns nicht nur arbeitslos machen, sondern auch unsere Denkfähigkeit und Autonomie untergraben. Ein persönlicher, reflektierter Essay über die Risiken der KI-Entwicklung.
Und so geben Sie, indem Sie die KI schreiben lassen, den größten Teil dessen auf, was Denken ausmacht.
- rahulyc
Ich bin mir nicht sicher, was passieren wird (ich glaube, niemand weiß es), aber bei jeder anderen Technologie kann ich mich abmelden, wenn ich sie nicht nutzen möchte.
Selbst wenn ich arbeitslos werde, sehe ich nicht, wie ich mich abmelden kann, wenn alle überall sie nutzen.
Regierungen haben Menschen historisch als Vermögenswerte betrachtet – es wird sogar "Humankapital" genannt, und sie brauchen uns für Steuereinnahmen und um den Staat zu betreiben. Was passiert, wenn wir nicht mehr gebraucht werden? Selbst wenn die KI magisch auf den Staat ausgerichtet ist, sehe ich nicht, wie ich auf der Gewinnerseite lande. Es ist nicht so, dass wir heute eine Stimme dabei hätten, wie uns das aufgedrängt wird. Warum sollte es besser werden, wenn AGI alles tun kann, was Menschen tun können? Was gibt uns dann noch eine Stimme in der Welt?
- skybrian
> Was war die letzte große Lebensentscheidung, die du getroffen hast, ohne zumindest eine KI zu konsultieren?
Das scheint zu fragen, was die letzte große Entscheidung war, die du getroffen hast, ohne zumindest eine Websuche zu machen. Es ist nichts falsch daran, eine Suche zu machen. Das Problem ist, wenn man sich zu sehr auf das verlässt, was man liest, ohne es zu überprüfen.
- ArcHound
Das Problem mit der Entwertung menschlicher Arbeit ist, dass die Automatisierung nicht real sein muss. Man muss nur fast alle Arbeitgeber dazu bringen, zuzustimmen, dass ein bestimmter Job weniger bezahlt werden kann.
Und das ist heute der Fall – die Aussage, dass neue KI ein ausreichender Ersatz für Programmierer ist, reicht aus, um Entlassungen bei Rekordgewinnen durchzuführen, ohne dass sich der Aktienkurs auswirkt.
- throwawayk7h
> Wenn Menschen wirtschaftlich nutzlos sind, braucht der Staat sie nicht. Warum UBI an Menschen zahlen, die weder wirtschaftliche noch politische Macht haben?
Verzeih mir, wenn ich naiv bin. Aber würden die Leute in diesem Fall nicht einfach für UBI stimmen?
- aranelsurion
> Was wäre, wenn GPT-3 nicht funktioniert hätte? Worauf hätten wir uns in diesem alternativen 2026 freuen können?
Man würde hoffen, vielleicht auf langweilige Dinge wie Gesundheitsversorgung, bessere Lebensbedingungen, besser funktionierende Gesellschaften und so weiter.
Sicherlich nicht so aufregend wie fliegende Autos und denkende Maschinen.