KI-Gefühle: Zwischen Staunen und Untergangsangst
I Feel about AI
Der Autor reflektiert über seine ambivalenten Gefühle gegenüber KI: Überraschung über die Leistungsfähigkeit neuronaler Netze, Angst vor einer möglichen Superintelligenz, Ekel über die Zerstörung der offenen Webkultur durch KI-Firmen, Trauer über Künstler, Wut über die Ohnmacht der Politik, aber auch Freude über die technologischen Fortschritte. Sein Fazit: Technologisch positiv, gesellschaftlich düster.
Wie eine Heuschreckenplage stürzen sie sich auf jedes offene Wiki und Forum und überwältigen sie.
- hn_throwaway_99
Was mich an KI wirklich Angst macht, ist, dass ich glaube, dass das "Utopie"-Szenario nicht viel besser ist als das "Untergangs"-Szenario.
Wir werden sehr schnell an einen Punkt kommen, an dem nur noch sehr wenige Menschen wirtschaftlich etwas beitragen können, weil sie in den meisten Bereichen schlechter sein werden als KI (einschließlich Robotik). Eine Welt, in der die Menschen nur ihre Launen befriedigt bekommen, ist keine Utopie. Wir haben unzählige Sprichwörter und Redewendungen dazu, z.B. "Ohne Fleiß kein Preis", "Nur die harte Arbeit ist es wert, getan zu werden" usw.
Die Menschen, die alle auf ihren Wall-E-Wagen herumfahren, fühlt sich für mich nicht nach Utopie an.
Edit: Um den Argumenten "reiche Leute, die sich um ihre Arbeit sorgen, während Menschen in armen Ländern hungern" entgegenzutreten, empfehle ich, eine sterbende Stadt im Rostgürtel der USA zu besuchen. Diese Leute hungern größtenteils nicht (tatsächlich ist der Kalorienüberschuss das größere Problem), sie haben angemessene Unterkünfte und reichlich Platz im Freien. Ihre materiellen Bedürfnisse sind gedeckt. Aber diese Orte sind die Hauptstadt der Verzweiflung. Die Menschen sehen wenig Möglichkeiten für Aufstieg oder die Fähigkeit, ihre Umstände zu ändern, und die Opioid-Epidemie ist eine direkte Folge eines Gefühls der Hoffnungslosigkeit, dass es keinen Ort gibt, an den Motivation fließen oder Veränderung bewirken kann.
- litmus-pit-git
Das ist ein kleiner Exkurs und eher eine Tirade. (und bitte schlagt keine Intervention jeglicher Art vor)
> Superintelligente KI wird unweigerlich die Menschheit zerstören, scheint keinen Fehler zu haben
Für einen Teil der Bevölkerung, der in einem bestimmten Alter war, als die Pandemie ausbrach und die ihre bestimmten Pläne/Hoffnungen/Träume im Privatleben zunichtemachte, und dann diese LLM-/Agenten-Welt Einzug hielt, besonders wenn sie in einer Branche arbeiten, die direkt und am stärksten davon betroffen ist, war dies seit einigen Jahren ein surrealer und langsamer kafkaesker Albtraum. Die Sache ist die: Mit der Zeit und dem Alter vergeht die Hoffnung Stück für Stück, und jedes verlorene Stück Hoffnung hilft, das nächste zu töten. Dann kommt das Gefühl der Beklemmung – die unveränderliche Realität, dass das Alter vergeht, bedeutet, dass bestimmte Erfahrungen und Meilensteine im Wesentlichen unerreichbar sind, weil sich diese Uhr nicht zurückdrehen lässt.
Also verspüre ich eine seltsame Erleichterung über diese Möglichkeit des Untergangs. Ich teile nur, was ich fühle, und ich fühle mich nicht gut dabei, diese Erleichterung zu spüren, dass es am Ende vielleicht für uns alle endet und nicht nur für ein paar Unglückliche. Dieses Gefühl und die Ruhe darüber machen mich traurig.
- Crabber
> Eine superintelligente KI wird unweigerlich die Menschheit zerstören
Kann mir bitte jemand erklären, wie eine LLM die "Menschheit zerstören" soll? Selbst wenn die Behauptungen von ChatGPT, Claude usw. wahr sind, dass ihre super gruseligen Agenten aus einer Sandbox entkommen und anfangen konnten, andere Server zu hacken (was ich für mindestens 50% wahrscheinlich halte, dass es nur Marketing-Geschwätz ist), wie soll eine KI irgendetwas in der realen Welt beeinflussen?
Vielleicht könnte ein Agent alle internetverbundenen Dienste offline nehmen, aber das zerstört nicht die Menschheit. Ein KI-Agent kann die Welt nur durch digitale Dinge sehen und mit ihr interagieren. Finde einfach den Server, auf dem er läuft, und zieh das Ethernet-Kabel raus. Schneid einfach die Stromleitung zum Rechenzentrum durch. Schalt das ganze Stromnetz ab, wenn es wirklich dazu kommt.
- bloaf
Als jemand mit einem Hobby-Interesse an Theologie:
Argumente über superintelligente KI haben alle Merkmale der philosophischen "Beweise für die Existenz Gottes": Sie beginnen mit scheinbar harmlosen Prämissen und schließen auf scheinbar wasserdichte Weise, dass ein Gott existiert.
Es gibt eine Tendenz unter rational denkenden Menschen, solche Gottesbeweise anzusehen und auszurufen: "Das kann man nicht machen" und sich dann umzudrehen und dasselbe über superintelligente KI zu tun.
Die Kernbotschaft, die ich den Leuten vermitteln möchte, ist:
A) Philosophie ist keine so triviale Sache, dass man einfach hereinschneien, "schlau sein" und Fehler in etablierten philosophischen Argumenten finden kann.
B) KI hat echte theologische Implikationen, und alle gehen auf Zehenspitzen darum herum. Mehr als ein öffentlicher Intellektueller versucht, seine eigenen metaphysischen Positionen über die Diskussion von KI ins öffentliche Bewusstsein zu schmuggeln.
- tim333
> Yudkowskys Argument, dass eine superintelligente KI unweigerlich die Menschheit zerstören wird, scheint keinen Fehler zu haben.
Wenn man versucht zu sehen, was sein Argument ist, scheint es auch nicht viel Strenge zu haben, im Grunde, dass KI, die schlauer ist als wir, herausfinden könnte, dass sie uns nicht will. Was nicht beweist, dass es passieren wird. Selbst Menschen, die im Allgemeinen nicht so nett sind, neigen dazu, Arten zu erhalten, und ich erwarte, dass wir versuchen werden, der KI bessere Werte zu geben als uns kriegerischen Primaten.
- dgellow
> Wie eine Heuschreckenplage fallen sie über jedes offene Wiki und Forum her und überwältigen sie.
Das ist das Kernmuster unbeaufsichtigter Agenten, die Heuschreckenplage-Metapher ist treffend. Wir sehen und werden das in jedem einzelnen System sehen, mit dem KI interagieren kann, sei es menschliche Systeme, Softwaresysteme usw. Unermüdlich nach einem Einstiegspunkt suchen, hereinströmen, das Ganze von innen heraus konsumieren, bis es keinen Wert mehr für Menschen gibt.
Du hast ein neues, innovatives Softwareunternehmen aufgebaut? Tausende Agenten werden im Handumdrehen daran arbeiten, das Ganze zu replizieren. Du veröffentlichst deine Texte? Genau dasselbe: Sobald du etwas Aufmerksamkeit bekommst, wird deine Arbeit im Handumdrehen von Tausenden von Agenten repliziert. Gleiches für Videos (die ganzen "gesichtslosen YouTube-Kanäle", die von ElevenLabs und ähnlichen vorangetrieben werden). Gleiches für Online-Kurse. Gleiches für jede Website mit mäßigem Wert. Gleiches für Musik oder andere digitale Kunstformen. Jeder online verfügbare Verwaltungsdienst wird von Einreichungen überflutet.
- chistev
HN entfernt automatisch das "How", was den Titel komisch klingen lässt.
- mag7269