英語以外のプロンプトは最大180倍のエネルギーを消費する——ミシガン大学の研究

Generative AI uses more energy on non-English text

英語以外のプロンプトは最大180倍のエネルギーを消費する——ミシガン大学の研究

ミシガン大学の研究チームがQwen 3、Gemma 3、Llama 3.1を使い、122言語の読解ベンチマークで消費エネルギーを測定した。英語以外のテキスト生成には1.4〜180倍のエネルギーが必要で、ヒンディー語は7.9倍、ベンガル語は15.3倍に達する。しかもエネルギーを多く食う言語ほど出力の精度が低いという「二重の罰」が生じている。原因はトークン数の増加だ。

「エネルギーを多く消費する言語は、モデル出力の精度も低い傾向があります。多くの人は母語でAIに質問したいはずですが、この二重の罰によって、一部の人々がAIから締め出され、企業も特定の言語でモデルを提供することに消極的になる可能性が高まります」
  1. esperent

    この記事は半分ほど読まないとこの点に触れていないが、これは最初の段落に入れるべき内容だ:

    > 研究者たちは、AlibabaのQwen 3、GoogleのGemma 3、MetaのLlama 3.1という3つのオープンソースAIモデルが使用するエネルギー量を測定することで、エネルギーと精度の格差を発見した。

  2. vova_hn2

    固定トークン集合からH-Nets [0](HNで議論された [1])のようなものに切り替えることで、この問題を完全に解決できないまでも、少なくとも改善できると思う。

    なぜなら、現状の主な問題は、一部の言語が他の言語よりもはるかに効率的にトークン化されており、それがゼロサムゲームになっていることだ。トークン数には限りがあり、ある言語に必要なトークンを追加すれば、必然的に別の言語のトークンを削除せざるを得ず、その言語の効率が低下するからだ。

    [0] https://www.cartesia.ai/blog/from-tokens-to-bytes-part-1

    [1] https://news.ycombinator.com/item?id=50278253

  3. akssri

    > 他の言語で作業する場合、モデルはより多くのトークンを生成する必要があるため、より多くのエネルギーを使用した...

    少し時代遅れに思える。Sarvamは何年も前から、インド系言語に関して主流モデルが使用するトークン化スキームの非効率性について話している。

  4. NoahZuniga

    ここには興味深い情報もあるが、プレゼンテーションはかなり poor だ。最悪の言語は、AIが混乱して同じテキストを何度も繰り返すループに陥るケースだ。

    6ページの表から [1]

    > トークン爆発。その文は45回繰り返された。

    図4/表3はかなり興味深い。本質的にすべての言語が0.1J/トークンにクラスタリングされ、いくつかの外れ値が場合によっては4.8J/トークンに達することを示している。

    言語ごとに900回の実行があるので、かなり良いサンプルサイズだ。

    [1]: https://aclanthology.org/2026.emnlp-main.2113.pdf

  5. scottcha

    Neuralwatt CloudのSoAモデルで、すべての最適化と価格設定をエネルギーで行っているが、この論文の一部をかなり簡単に再現できた。精度は論文の厳密な「#### N」パーサーと寛容なフォールバックを使用。accは厳密/寛容のパーセント。len_capは生成長制限で切り捨てられた応答の数であり、エネルギーキャップではない。各言語50応答。

    nw-flash (DeepSeek V4.1 Flash 1017)

    Language J/req xEN tok/req J/tok acc len_cap

    English 23.4 1.00 174 0.134 100/100 0

    Chinese 16.8 0.72 389 0.043 96/96 0

    Russian 18.8 0.80 352 0.054 96/96 0

    French 25.1 1.07 272 0.092 98/98 0

    S. Pashto 69.2 2.96 752 0.092 92/92 1

    Tigrinya 65.3 2.79 2299 0.028 0/76 8

    Shan 98.5 4.21 2823 0.035 48/54 14

    Tibetan 42.3 1.81 2227 0.019 0/76 9

    nw-small (Qwen3.8-27B-FP8)

    Language J/req xEN tok/req J/tok acc len_cap

    English 62.2 1.00 300 0.207 100/100 0

    Chinese 154.1 2.48 605 0.255 94/94 1

    Russian 147.7 2.37 576 0.257 96/96 1

    French 163.3 2.62 323 0.506 98/98 0

    S. Pashto 777.2 12.49 1510 0.515 84/84 6

    Tigrinya 823.8 13.24 2458 0.335 0/76 10

    Shan 1407.4 22.62 3422 0.41 […]

  6. pona-a

    これは明らかな系だろう。Transformerはコンテキストトークンに対して指数関数的にスケールし、現在のトークナイザーが非英語テキストでより悪い性能を発揮し、より多くのトークンに分割することはよく知られていた。

  7. PhilipRoman

    PDF全体は読んでいないが、少なくともリンクされた記事では、母語話者の数を指標にすると英語(とフランス語)が不利になり、グラフでより効率的に見えるようになっていると思う。非母語話者は母語話者の約3倍おり、膨大な量のトレーニング資料が彼らによって書かれている。

  8. load-bearing

    これは、ちょうどHNに投稿したこのリンクを思い出させた

    https://partyfly.github.io/tokenizer-fairness-2026/

    すでにトークンを節約するために英語を使い、必要なら最終結果を他の言語に翻訳している。これは、複数言語に堪能な国際的なLLMユーザーのほとんどにとってすでに明らかだったと思う。

この日のほかの記事

2026-11-14