Sebastian Raschkaが11時間の動画講座で推論モデルの作り方をゼロから解説
Sebastian Raschka's from-scratch video course on building reasoning models
Sebastian Raschka氏が公開した8本・計11時間の動画講座。事前学習済みのQwen3 0.6Bを出発点に、PythonとPyTorchで評価用バリファイア、temperature samplingやself-consistencyによる推論時スケーリング、簡易版GRPOによるRLVR、さらに蒸留までを順に実装していく。書籍『Build a Reasoning Model (From Scratch)』の companion 教材で、前半はCPUでも動かせる。
推論モデルとは、要するに従来のLLMをアップグレードしたものであり、検証可能な報酬を用いた強化学習による追加のポストトレーニング（および任意で推論時スケーリング技術）を加えることで、より難しい問題を解けるようにしたものだ。