GPT-2を純粋なCMakeで実装、Q16.16整数演算で実行
Implementation of GPT-2 in pure CMake
AlpinDale氏が、GPT-2モデルをCMakeだけで実装したリポジトリ「gpt2.cmake」を公開。ビルドツールであるCMakeのスクリプト言語でニューラルネットワークを記述し、Q16.16固定小数点数演算で推論を実行する。フルモデルとトイモデルの2種類を提供し、Hugging Faceからダウンロードした重みをPythonスクリプトで変換して使用する。CMakeの可能性を示す実験的なプロジェクト。
GPT-2 in pure CMake, executed with Q16.16 integer arithmetic.
HNでの議論
19- voxelghost
[遅延]
- inoffensivename
エイプリル・ラドゲートの言葉を借りると、「キモい。でも大好き。」
- ahartmetz
ちなみに、これはおそらく、その遅さに笑うことすらできないほど遅いだろう。笑うには、1時間以内に何かが起こるのを見る必要があるからだ。一度に1コアしか使えないが、それは最悪な点ではない。CMakeはインタプリタ型で文字列型に強く依存しているため、すべての数値は、使用のたびに文字列から数値へ、そして通常はその逆に変換しなければならない。