360Mのモデルに端末のふりをさせる——本物のシェルなしでvimもtmuxも動く
WorldTUI: I trained a 360M model to pretend to be a terminal
Qwen2.5-Coder-0.5Bをファインチューニングし、シェルもファイルシステムも持たない「端末の世界モデル」を作った。キー入力を与えると画面の差分を予測する仕組みで、vimやtmux、スネークゲームまで動き、数コマンド前の入力も覚えている。決め手は自分のミスを修復する学習と、画面の行を並列デコードする工夫。RTX 4090で約75 GPU時間、ブラウザでも試せる。
本当に知りたかったのは、一貫した世界を保てるのか、それとも説得力のある端末出力を生成しているだけなのかということだった。
HNでの議論
153- nico
すごくすごくクール！ファインチューニングだけでこれができるなんて感動した。
よく似たテーマで、最近「lossy git」を作ったんだ。これはコードをニューラルネットワークのトレーニングで保存し、チェックアウト時にコードを生成して返すもの。
* webデモ: https://nicobrenner.github.io/lossy-git/demo.html
* CLI版: https://nicobrenner.github.io/lossy-git/
Webデモはバージョン管理もニューラルネットワークのトレーニング/推論もすべてブラウザ上で動く。画像でもコードでもコミットとチェックアウトができて、自分の画像を貼り付けたり「アップロード」したりもできる。サーバーリクエストは一切なし（リロードするとページからすべて消える）。
- dpflan
これは約3年前のこの投稿を思い出させる: https://news.ycombinator.com/item?id=33847479
「ChatGPTの中に仮想マシンを構築する」
- https://www.engraved.blog/building-a-virtual-machine-inside/
「関連研究」のセクションでも言及されているね。
- saagarjha
> 役に立つのか？ あまり役には立たない。
興味深いことに、Anthropicはこの種のモデルをアラインメント評価に使っている: https://alignment.anthropic.com/2026/reward-seeker/#:~:text=...
- _bobm
毎日必死に追いかけようとして脳を焼いているけど、正直、みんな止めてくれ。彼を少し休ませてやれよ。
これは私の大人になってからの人生で最も魔法のような時期だ。70年代、80年代、90年代は、今のスピードに比べれば絵画のように見える。毎日終わる頃には文字通り疲れ果てている。犬のように疲れている。
OP、素晴らしい仕事だ。いや、これは本当にぶっ飛んでる。
- sehw
いくらかかるの？
- Meleagris
これは思っている以上に役に立つ。こういうのを使ってインタラクションの多いハニーポットを動かすことを考えてみては。
- andai
> 出発点としてQwen2.5-Coder-0.5Bを使いました。リアルタイムに近い性能を得るには小さなモデルが必要でした。コーディングモデルなので、CLIの使用例もすでにたくさん見ていました。
興味深い。そのモデルとファインチューニング版を比較するとどうなのか聞きたかったけど、著者がベンチマークを提供しているのを見たばかりだ。ファインチューニングでメモリがそんなに大幅に改善するとは予想外だった。
でも、よく考えると、人間として自分の記憶をこれまで思っていた以上にファインチューニングできた経験がある！
お気に入りのジョークの一つを思い出す。
すみません、カーネギーホールへの行き方を教えてもらえますか？
—練習だよ、とにかく…練習さ…
- ponyous
ChatGPTで見た最初のとてもクールなデモの一つは、作者がAIに「端末のふりをして」とプロンプトを与え、それから `cd .fbi`、`ls files`、`cat files/confidential.txt` のようなコマンドを実行していく投稿だった。とても楽しいデモだった。この端末でも似たアイデアを探求するのが楽しみだ。