Nvidia 3000番台のFP/BF16命令発行速度をプロ向け同等に解放するカーネルモジュールが登場
GPU-unlock: FP/BF16 instruction issue rate on Nvidia 3000's cards
Linuxカーネルモジュール「gpu-unlock」は、NvidiaのGA102/GA103/GA104/GA106カードでFP/BF16 FMAの命令発行速度を2倍に引き上げる。CMPアンロッカーとUEFIの手法を組み合わせ、NVIDIAドライバがカードをバインドする前に速度セレクタを書き換える。RTX 3090 TiではBF16が87.5から157.4 TFLOPSへ向上。ドライバ更新のたびに手動パッチを当てる必要がないのが利点だ。
このアンロックの効果は、GA102、GA103、GA104、GA106カード上でFP/BF16 FMAからFP32演算への命令発行速度を2倍にすることです。
HNでの議論
61- Zagitta
やあ、これは私の作品です。ただし、エクスプロイトなどのアイデアは決して私のものではありません。
これは、nvidiaドライバにパッチを当てるよりもずっと面倒でないパッケージで全体をまとめる方法にすぎません。もともとは、OSにチェーンロードするスタンドアロンのUEFIモジュールとして動作するCMP90/50のWindowsアンロックに触発されました。
質問には喜んでお答えします！
- jacquesm
これは本物だが、いくつか注意点がある：
- 快適に感じるよりもカードを熱くして実行する必要がある
- 本当の見返り（一部のカードでは、どうやら下のスレッドを見てほしい）には、最大電力を450Wに上げる必要がある
- これは純正クーラーが設計された範囲をはるかに超えているので、もう少し冷却を強化すると役立つだろう
嬉しいのは、この改造を以前からあるp2p改造の上に（というより下に、こちらが先にロードされる）重ねられることだ。互いに干渉しないようだ。
- Tiberium
自分でテストしてみたが、結果は本物だ。これは信じられないほどだ。少しリスクはあるが（ファームウェアのエクスプロイトに依存している）：https://github.com/Zagitta/gpu-unlock/blob/main/docs/How%20A...
> 残念ながらNvidiaにとって、ブーターはスタックに直接書き込む古典的なバッファオーバーフローに対して脆弱で、これによりReturn Oriented Programming（ROP）経由でコードを実行できる。
RTX 4090および4070 Ti Super用のリポジトリ：https://github.com/JustAResearcher/gpu-unlock-ada
- gawacer
クール
- Scene_Cast2
本当に興味深い。
一方で、これは限られたワークロードにしか適用されない（例えばトレーニングはしばしばメモリ帯域幅に制約される）。
電力消費にどう影響するのかも気になる。