Jevを（ひどい）チャットボットに変えてみた

I turned Jev into a (lousy) chatbot

Jev APIを1ステップごとに「次に来る記号はどれか」と問い合わせ、確率分布からサンプリングしてテキストを生成するツールjevchat。choice、bisect、buckets、refineなどの戦略と、文字・単語・BPEなどのアルファベットを組み合わせ可能。仮説オプション方式が最大の改善点で、文字アルファベットではトップ1精度が約3倍、正解記号への確率質量が2倍になる。158のオフラインテスト付き。