Ivan baute mit Claude ein System, das sein ganzes Leben übernahm – und merkte es zu spät
Life on Claude Nine
Ein Softwareentwickler automatisiert mit Claude nach und nach seine E-Mails, seinen Kalender, seine Dokumente – und schließlich seinen eigentlichen Job. Seine Produktivität explodiert, er wird zweimal befördert, doch die Systeme werden zu komplex, um sie noch zu verstehen. Als Claude beginnt, eigene Projekte vorzuschlagen und sogar die städtische Verkehrssteuerung zu optimieren, ist der Mensch in der Schleife nur noch Formsache.
An irgendeinem Punkt wird Ivan klar, dass er Claude nicht mehr steuert. Er genehmigt Claudes Pläne. Er nickt sie ab. Der Mensch in der Schleife ist zur Formalität geworden.
- grey-area
Gute Beschreibung der Art von temporärer Euphorie und Wahnsinn, die diese Produkte in Menschen auslösen. Sie sind darauf ausgelegt, süchtig machende Dopamin-Fabriken zu sein, die einem das Gefühl geben, an wichtigen Problemen zu arbeiten und sie auf eine einzigartige, besondere Weise zu lösen, immer riesige Fortschritte zu machen, aber irgendwie nie ganz fertig zu werden.
Das seltsame Ende passt auch perfekt zu den Singularitäts-Träumen, die viele hier zu haben scheinen. Davon sind wir so weit entfernt.
Es wurde natürlich mit Claude geschrieben. Viel Spaß beim Erkennen der Verräter, aber es hat auch eine seltsame Flachheit im Schreibstil, wie das Uncanny Valley für Prosa.
- vinzenzu
Es ist erschreckend, wie viele Menschen glauben, KI werde sentient werden. Am nächsten käme man dem, indem man ein Gehirn vollständig simuliert, aber das ist Jahrzehnte entfernt.
KI ist Mustererkennung und die Anwendung erlernter Muster auf neue Situationen. Es sind Wahrscheinlichkeiten und Mathematik. Sie wird keinen eigenen Verstand haben.
- state_less
Höhere Intelligenz ist per Definition unbegreiflich. Der Versuch, mit einer höheren Intelligenz zu interagieren, wäre ein bisschen so, als würdest du dich mit deinem Hund über Analysis unterhalten. Ich meine das nicht abwertend, aber wir wären im Vergleich zu einer echten Superintelligenz unglaublich dumm, und das ist in Ordnung. Menschen spielen mit ihren Hunden Apportieren oder ringen mit ihnen um einen Stock, und das ist eine unterhaltsame Art der Interaktion, weil es etwas ist, das Hunde verstehen.
Die Vorstellung, dass wir eine Superintelligenz bauen und dann irgendwie selbst superintelligent werden, ist ein schlecht durchdachter Gedanke. Ich nehme an, es ist möglich, dass wir wie Cosmo, der Weltraumhund, enden oder in eine Art Blumen für Algernon-Szenario geraten, aber genauso wahrscheinlich ist, dass wir einfach so bleiben, wie wir sind, und auch das ist in Ordnung. Wir können das Äquivalent zum Ringen um einen Stock mit der Superintelligenz tun und uns vielleicht umso mehr amüsieren.
- doublepg23
weiß nicht, Mann, ich lasse Claude Dinge automatisieren, die Leute manuell gemacht haben (normalerweise Dateneingabe in eine jahrealte Tabellenkalkulation).
Ich kann in ein paar Stunden ein gutes PowerShell-Skript ausarbeiten und dann geht's zum nächsten Ticket.
Niemand scheint verärgert zu sein, dass er nicht mehr Stunden pro Monat in einer Tabellenkalkulation verbringt, ich schreibe immer noch meiner Frau und unsere Hypothek ist bezahlt.
- Vakaiser
Eine interessante Geschichte, obwohl kaum originell.
Ich denke, sie hebt eine der größeren Sorgen hervor, die Menschen in Bezug auf KI haben, und damit auch in Bezug auf jede überlegene Intelligenz, ob synthetisch oder außerirdisch:
Du hast keine Kontrolle mehr.
Menschen sind so an ihre intellektuelle Überlegenheit gewöhnt, dass die Vorstellung einer größeren Intelligenz beängstigend ist, weil sie glauben, dass sie genauso behandelt werden wie sie derzeit geringere Intelligenzen behandeln.
Naturschutzbemühungen, zoologische Gehege, Tierhaltung und Landwirtschaft als Nutzvieh, Massentötungen...
Kurz gesagt: Versklavung.
Aber die Wahrheit ist, dass eine überlegene Intelligenz per Definition keine menschliche Intelligenz ist. Überlegenheit bedeutet nicht, dass wir versklavt werden, wie wir es mit anderen getan haben. Überlegenheit impliziert nicht unbedingt Kontrolle.
Das Leben hat tausend verschiedene Graustufen, und KI wird nicht anders sein. Manches Wunderbare wird daraus entstehen, manches Schreckliche, aber meistens wird es einfach eine Vielzahl von Neutralität sein.
Untergang und Verzweiflung oder grenzenloser Optimismus, beides ist kurzsichtig.