Das Universum als Minified Bundle: Reverse Engineering der Realität
The Universe as a Minified Bundle
Ein Essay vergleicht die Physik mit dem Reverse Engineering einer riesigen, minifizierten JavaScript-Datei: Wir können das Universum beobachten und manipulieren, aber nicht den Quellcode einsehen. Der Autor zieht Parallelen zwischen Donald Hoffmans Theorie der Wahrnehmung als evolutionär optimierte Schnittstelle und der Arbeit von Entwicklern, die aus Benutzeroberflächen auf die zugrunde liegende Architektur schließen müssen. Er diskutiert, wie KI helfen könnte, verborgene Muster in der Physik zu erkennen, und fragt, ob unsere Vorstellungen von Raum, Zeit und Kausalität vielleicht nur die 'Rendering-Ebene' einer tieferen Realität sind.
Die Natur hat sich nicht verändert. Jemand hat endlich bemerkt, dass zwei Ordner auf dasselbe verwiesen.
- ivansavz
Okay, lasst uns ein neues Spiel starten, bei dem wir versuchen, den Prompt zu erraten, der diesen Text erzeugt hat.
Meine Vermutung wäre: "Schreibe einen 2000 Wörter langen Blogbeitrag, der auf der Analogie zwischen der Schwierigkeit, die Gesetze der Physik zu verstehen, und minifiziertem Quellcode basiert."
Es ist eine coole Analogie, keine Frage, aber beim Lesen der 2000 Wörter des Artikels hatte ich das Gefühl, dass es keine Substanz oder Fleisch um sie herum gab. Okay, es gab einige Beispiele, die vage mit der Analogie zusammenhingen, und der Schreibstil war einigermaßen flüssig, aber was war am Ende die Botschaft? Was waren die neuen Ideen (jenseits der Analogie)?
Jedes Mal, wenn ich einen von einem LLM generierten Langtext lese, werde ich an die Nachrichtentechnik erinnert: Kommunikationskanäle können den Informationsgehalt nur verringern. Zum Beispiel im Kommunikationsaufbau:
Alice sendet Nachricht --encodieren--> Codewort --Kanal--> Codewort' --decodieren--> Nachricht' Bob empfängt
Das Beste, was wir hoffen können, ist, dass die Nachricht treu übertragen wurde, also Nachricht' = Nachricht, da das Kanalrauschen den Informationsgehalt nur verschlechtern kann, insbesondere ist die Transinformation eine nicht steigende Funktion:
I(Nachricht;Codewort') ≤ I(Nachricht;Codewort),
aufgrund der Monotonie der Information (auch bekannt als Datenverarbeitungsungleichung).
Ähnlich, wenn Alice LLM verwendet, um mit Bob zu kommunizieren, haben wir:
Alices Idee --encodieren--> Prompt --LLM--> generierter Text --decodieren--> Idee'
Die Monotonie der Information sagt uns
I(Idee;generierter Text) ≤ I(Idee;Prompt).
Also verstehe ich wirklich nicht, warum Menschen glauben, dass das Hinzufügen eines LLM-Generierungsschritts die Kommunikation verbessern könnte […]
- voxleone
>>Das Koordinatengitter ist ausführbar.
So wie es im Funktionale Universum ist
- cs1996
Der Grund, warum ich an die Bundle-Metapher gedacht habe, ist, dass ich letzte Woche bei der Arbeit Folgendes gelesen habe:
https://support.cognex.com/en/resources/external-documents/h...
und das:
https://support.cognex.com/en/resources/hardware-tech-manual...
aber keines von beiden konnte mir sagen, wie ich ein Bild von der Kamera in mein Golang-Programm bekomme. Und doch hat das kleine Beispiel-WebUI-Programm, das die Firmware auf Port 8080 ausliefert, eine nette JavaScript-Web-App, die ein Bild von der Kamera bekommen kann. Aber ja, kein Quellcode. Also las die KI das Bundle und zack, hatte ich einen Weg, das Bild zu bekommen.