GPT-6 Astraの衝撃：ループ型Transformerと隠された推論の真実
GPT-6 Astra, looped transformers, and hidden reasoning
OpenAIのGPT-6 Astraが発表され、その性能とアーキテクチャに注目が集まっています。本記事では、Astraの実力をベンチマークや実際の使用感から評価し、特に3Dレンダリングやコンピュータ操作での卓越性を指摘します。さらに、内部情報として報じられた「ループ型Transformer（recurrent depth）」の仕組みを、Nanbeige4.2-3Bなどの具体例を交えて解説。そして、Astraが推論プロセス（chain of thought）を隠しているという噂について、技術的な観点から考察します。
GPT-6 Astraは、私がこれまで使った中で最高のモデルであり、特に3Dレンダリングやアニメーションのタスクで突出しています。
HNでの議論
127- shawntan
研究に焦点を当てている人向けに、どのような種類の計算問題が最小限どれだけのCoTを必要とするかについて、私のブログ記事にいくつかの参考文献があります：https://blog.wtf.sg/posts/2023-02-03-the-new-xor-problem/
特にWill Merrillの研究：https://arxiv.org/abs/2310.07923
ユニバーサル・トランスフォーマー（ループ型トランスフォーマーですが、みんな以前の研究を忘れてしまいました）がこれにどう影響するかについて、Will Merrill（再び）がまさにこれを論じた論文をここにあります（https://arxiv.org/abs/2503.03961）。
元々のユニバーサル・トランスフォーマーが「ユニバーサル」と呼ばれるのは、トークンごとのループ決定を許せば、理論上CoTなしでチューリング完全になり得るからです（使用される精度のレベルに関する微妙な点はあります）。
CoTがほとんどまたは全くないことが「安全でない」かどうかについて：モデルのCoTが実際にどのように答えに至ったかを明らかにするかは明確ではありません。例えば、CoTの前に答えを提供したらどうでしょう？（https://arxiv.org/html/2603.01437v2）
もしこれがすでに問題になっているなら、モデルの推論を監視するためにCoTに頼るべきではありません。
いつものように、詳細に手を染めるとこのトピックには多くの微妙な点があります。
- siva7
Astraは月曜日までは正気じゃなかったけど、火曜日に何かが起こって、今はSolのように感じる。失われた生産性を悲しむけど、元のAstraを返してくれることを願っている。
- wolttam
トランスフォーマーモデル全体をそれ自体にループさせるなら、定義上それは隠された推論のように思える。
モデルの出力がその推論トレースであり、それを出力する代わりに推論時に単純にモデルに再入力するなら、定義上それは隠されている（しかし、このトレースとさらに下流の最終出力トレースの両方を引き出せるはずだと思う）。
- andai
MSPAINTコンピュータ使用のデモには度肝を抜かれた。
やっていることとしてはSVGのペリカンと大差ないのかもしれないけど、それでもリアルタイムで動いているのを見るのは本当に驚くべきことだ。
- libraryofbabel
LLMの内部に興味がある人は皆Sebastianを読むべきだ。彼は素晴らしい。
ここでの要約は、最近の「The Information」の記事[0]がGPT 6 Astraが「再帰的深さ」または「ループ型トランスフォーマー」を使っていると報じ、それが思考連鎖の監視を難しくする特別な新しい恐ろしいもの（「秘密技術！」）のように聞こえたことだ。実際には、それは単にトランスフォーマー層を積み重ねるのと同じだが、重みを再利用するのでGPUメモリを節約できる。依然として一度に1つのトークンを生成しているだけで、トークン列の位置は通常のLLMアーキテクチャと異なる「再帰的」な方法で相互作用しているわけではない。
だから、これらのモデルでも思考連鎖を問題なく監視できる…まあ、OpenAIならね。ユーザーはo1の頃から要約されていないトレースを見ることができていない。研究所が中国のラボによるモデルの蒸留を心配しているからだ。
（トランスフォーマー層を無限に積み重ねることには正当な解釈可能性の懸念があるが、それはずっと前から知られている。そしてここでの「ループ」は、より多くの層を追加する安価な方法であるという点を除いて、実際には新しい問題の源ではない。）
[0] https://www.theinformation.com/articles/secret-technique-beh...
- hankbond
なんて明確でよく書かれた記事だろう。私はLLMアーキテクチャについて基本的な理解しかないが、最後までついていけて直感を得ることができた！
- andai
> 混乱した報道によって引き起こされる監視不能への競争を防ぎたい。現在のフロンティアモデル、Astraを含む、の計算グラフの深さはGPT-4の2倍以内だ。OpenAIは最初の推論モデル以来、思考連鎖の監視を維持し活用するよう努めてきた。この技術を深く重視している。なぜなら、モデルのアラインメントが訓練分布からどのように一般化するかを見る視点を与えてくれるからだ。私はこれが脆弱で、残念ながら悪い方向に傾向していると思う。その理由はアーキテクチャの変更に起因するものではなく、すぐに書くつもりだ。しかし、これを強化するためにできることはあり、それが現在の研究プログラムの核心的な目標だ。
- Jakub Pachocki（OpenAIのチーフサイエンティスト）
これが実際にアラインメントにどれほど役立つのか疑問だ。彼らは評価されているときを認識していて、ただあなたが聞きたいと思うことを言うだけだと、すでに結論づけたのではないか？
- andai
逸話だが、私は特異な物質の組み合わせでループ認知を経験した。
私は思考を固体の物体として扱い、反復的に操作することができた。（通常、思考はもっと「垣間見る」とか「閃く」ようなもので、すぐに消えてしまう。だから、トレーサーのような精神的なものだろうか。）
私は思考を板のように積み重ねることができた。（似たようなことは狭い範囲でできるが、板はそれほど広くはない！）
残念ながらテストはしなかったが、主観的には認知が大幅に強化された。（その夜に得た洞察に追いつくのに数年かかった。）
関係ないかもしれないが、「ループ型トランスフォーマー」の部分で、ここでも同様の「段階的な」増分が起こっているのではないかと思った。
編集：ああ、6.8-18%は私が言及していたものより少し劇的ではない。