bootgpt - ブートセクタで動く言語モデル

Show HN: A language model that lives in a boot sector

bootgptは、512バイトのMBR（マスターブートレコード）に収まる形で動作する言語モデルです。手書きのアセンブリで書かれたブートセクタが、続く23セクタから11.5KBのint8モデルを読み込み、386の16ビットリアルモード上で推論を実行します。OSもCランタイムも不要で、マシンは起動と同時に存在しないハードウェアのLinuxブートログを幻覚的に生成します。モデルはchar-levelのニューラルネットで、8文字のコンテキストと1つの隠れ層を持ち、int8量子化によりimulとidivだけでフォワードパスを完結させます。QEMUで簡単に試せるほか、disk.imgをUSBに書き込めば実機のBIOSマシンでも起動可能です。