宇宙は「minified bundle」？ 物理学者がたどり着いた驚きのメタファー
The Universe as a Minified Bundle
もし宇宙が1.3ペビバイトのminifiedなJavaScriptファイルだったら？ ソースコードもコメントもGit履歴もない本番環境で、物理学者はどうやってアーキテクチャを理解するのか。この記事は、宇宙を「本番稼働中のアプリ」に例え、進化が知覚を「真実」ではなく「適応度」のために最適化してきたというDonald Hoffmanのインターフェース理論を紹介。時空がインターフェースなら、量子もつれや遠隔作用も「レンダリングの層」の問題かもしれない。さらに、AIが分野を横断して「重複した抽象化」を発見し、科学の「minified変数名」を復元する可能性を探る。
科学は巨大な企業であり、各チームが80年かけてuser_idに独自の名前を発明してきた。
HNでの議論
19- ivansavz
さて、このテキストを生成したプロンプトを当てる新しいゲームを始めよう。
私の推測は「物理学の法則を理解する難しさと、minifiedソースコードのアナロジーに基づいた2000語のブログ記事を書いて」だろう。
確かにクールなアナロジーだが、記事の2000語を読んで、その周りに実質や肉がないと感じた。まあ、アナロジーに漠然と関連した例はいくつかあり、文章は滑らかだったが、結局メッセージは何だったのか？アナロジーを超えた新しいアイデアは何か？
LLMが生成した長文を読むたびに、通信工学を思い出す。通信チャネルは情報量を減らすことしかできない。例えば、通信のセットアップでは：
アリスがメッセージを送る --エンコード--> コードワード --チャネル--> コードワード' --デコード--> メッセージ' ボブが受信
私たちが望める最善は、メッセージが忠実に伝送され、メッセージ' = メッセージとなることだ。なぜなら、チャネルノイズは情報量を劣化させることしかできないからだ。具体的には、相互情報量は非増加関数である：
I(メッセージ;コードワード') ≤ I(メッセージ;コードワード)、
情報の単調性（別名データ処理不等式）による。
同様に、アリスがLLMを使ってボブと通信する場合、次のようになる：
アリスのアイデア --エンコード--> プロンプト --LLM--> 生成テキスト --デコード--> アイデア'
情報の単調性は次のことを教えてくれる：
I(アイデア;生成テキスト) ≤ I(アイデア;プロンプト)。
だから、なぜ人々がLLM生成ステップを追加することでコミュニケーションが改善されると信じるのか、本当に理解できない。[...]
- voxleone
>>座標グリッドは実行可能である。
機能宇宙（Functional Universe）におけるように
- cs1996
バンドルのメタファーを思いついた理由は、先週仕事でこれを読んでいたからだ：
https://support.cognex.com/en/resources/external-documents/h...
そして：
https://support.cognex.com/en/resources/hardware-tech-manual...
しかし、どちらもカメラからgolangプログラムに画像を取得する方法を教えてくれなかった。それなのに、ファームウェアがポート8080で提供している小さなサンプルWebUIプログラムには、カメラから画像を取得できる素敵なJavaScript Webアプリがある。しかし、そう、ソースはない。だからAIがバンドルを読んで、ブーム、私は画像を取得する方法を手に入れた。