バラの花びらが教える「帰納」の本質：機械学習はなぜすぐ解けるのか

What Rose Petals Teach Us about Induction

Richard Hammingがベル研究所で投げかけた問い「あなたの分野で最も重要な問題は何か、そしてなぜそれに取り組んでいないのか」。著者にとってその答えは「帰納の一般的な方法は存在するのか」だ。本稿では、サイコロを使ったパズル「Petals Around the Rose」を題材に、線形回帰、ニューラルネットワーク、Deep Setsなど様々なMLアルゴリズムがこのパズルを解くまでの学習曲線を比較。帰納バイアスが学習効率を決めることを実証し、ARC-AGIベンチマークや世界モデル、Transformerの成功の理由を直感的に理解する手助けをする。