Emad Mostaque: Wir müssen davon ausgehen, dass das Internet in den nächsten Jahren offline geht
"We Have to Assume That the Internet Will Go Offline in the Next Few Years"
Auf der Startup-Konferenz TechBBQ in Kopenhagen zeichnete Emad Mostaque, Gründer von Stability AI und heute CEO von Intelligent Internet, ein düsteres Bild der nahen Zukunft: Das Internet werde ausfallen, KI-Agenten würden zur Bedrohung, und die Wirtschaft werde durch kompetente KI grundlegend verändert. Er fordert Souveränität über die gesamte Technologie-Stack und warnt vor kognitivem Kolonialismus. Gleichzeitig sieht er Chancen für eine Zukunft des Überflusses, wenn die Technologie im Besitz der Menschen bleibt.
Wir müssen davon ausgehen, dass das Internet in den nächsten Jahren offline geht. Vielleicht ist das gut.
- grubbs
Lustig – ich habe heute Morgen gerade über den Erfinder von Ethernet gelesen (Robert Metcalfe):
1995 argumentierte Metcalfe, dass das Internet im folgenden Jahr einen "katastrophalen Zusammenbruch" erleiden würde; er versprach, seine Worte zu essen, wenn das nicht einträfe. Während seiner Keynote auf der sechsten Internationalen World Wide Web Konferenz 1997 nahm er eine gedruckte Kopie seiner Kolumne, in der er den Zusammenbruch vorhersagte, steckte sie mit etwas Flüssigkeit in einen Mixer und konsumierte dann die breiige Masse.[26][27] Er hatte vorgeschlagen, seine Worte auf einer sehr großen Torte drucken zu lassen, aber das Publikum akzeptierte diese Form des "Worte-Essens" nicht.[28]
- comicjk
"Die Art, wie Hugging Face sich verteidigt hat, war mit einem Open-Source-Chinesischen Modell, GLM, weil sie keinen Zugang zu den hochsicheren Cybersicherheitsmodellen auf der anderen Seite hatten. Die sind zu gefährlich."
Das ist nicht, was passiert ist. HuggingFace hat die Schwachstellen auf die übliche Weise gepatcht und dann GLM für einen Teil der forensischen Analyse danach verwendet. Es liegt im Interesse von HF, den GLM-Teil der Geschichte zu betonen, weil es ihre Handlungsfähigkeit in der Situation sowie die Open-Source-Modelle, die sie vertreiben, hervorhebt. Aber GLM war ein (nützlicher) Teil der Nachbesprechung, nicht der Verteidigung.
- jmogly
Ich habe meinem 75-jährigen menschlichen Klempner zugeschaut (der am ersten Tag in Vietnam einen Kerl erschossen hat), wie er auf zwei 3 Zoll breiten Balken kniete und ein 4 Zoll großes Loch in einem Winkel von 89 Grad durch besagte Balken bohrte. Wo ist der Roboter, der das alles kann?
Abgesehen von all dem anderen Doomer-Quatsch in diesem Artikel finde ich die Job-Ersetzungs-Rhetorik am beleidigendsten. Es sind immer Leute, die so losgelöst von der Realität der Arbeit sind, Leute, deren einziger "Job" im Wesentlichen darin bestand, Ideen und Meinungen zu haben.
- blfr
Ich sehe keinen Grund für das Internet, offline zu gehen, abgesehen von verschiedenen politischen Blockaden, die es in Teile zerlegen. Also: China, Russland, EU mit ihrem eigenen Netz? Ja, vielleicht. Super-KI, die das Internet vernichtet: nein.
Tatsächlich, je mehr ich KI nutze (habe gestern erst sudo an Claude auf meiner KI-Entwicklungsbox übergeben), desto mehr sehe ich sie als einen ziemlich guten und sicherlich unermüdlichen Sysadmin. Wenn man sich ansieht, was Leute mit KI machen, indem sie sie an undokumentierte Hardware-Schnittstellen anschließen und funktionierende Einrichtungen daraus bekommen, wird das Internet gut klarkommen.
Der ganze Artikel ist nur eine Sammelsurium verschiedener KI-Ängste ohne viel Bezug zu dem, was tatsächlich passiert. Vielleicht wird die Zusammenfassung dem Gesagten nicht gerecht.
- EgregiousCube
"Souveränität ist die Fähigkeit, Widerstand gegen Machtausübung über einen zu leisten" ist eine ziemlich überzeugende Definition. Wenn man darüber nachdenkt, welche Form diese Macht annimmt, wenn LLMs maßgeschneiderte Exploits schneller entwickeln, als unsere bestehenden Prozesse sie patchen können – scheint es mir, dass unsere derzeitigen Sicherheits-Best-Practices sich als ziemlich nutzlos oder sogar als aktives Risiko an sich erweisen könnten.
Unser verantwortungsvoller Offenlegungs- und CVE-Informationszyklus, Patch-Rhythmen und Verteidigung in der Tiefe, usw., usw. Ökosystem sind auf eine Welt abgestimmt, in der es eine relativ kleine Anzahl von bösen 0-Days gibt und die Kosten dieser 0-Days einigermaßen hoch sind. Wir können weiterentwickeln, wie wir Bedrohungen begegnen, aber unsere Modelle haben die gesamte bestehende Literatur darüber gelesen, wie es bisher gemacht wurde. Ich denke, es gibt eine Lücke für Leute, die zu klein sind, um Zugang zu "den guten Sicherheitsmodellen" zu bekommen – die beschnittenen geschlossenen Modelle und die offenen Modelle scheinen wahrscheinlich nicht in der Lage zu sein, sich anzupassen, es sei denn, diese Lücke wird adressiert.