AI研究の自己加速を体験する「RSI Simulator」、Paradigmが公開

Paradigmは、AI研究開発の経済学を体験できるウェブゲーム「RSI Simulator」を公開した。プレイヤーはAIラボとなり、労働力、計算資源、データを研究開発に投資し、自己持続的な加速を達成することを目指す。このゲームは「The Economics of Recursive Self-Improvement」という論文に基づいており、パラメータは教育的に調整されている。また、モデルを詳しく調べられるエクスプローラーも提供。AI開発の複雑さと統計的法則の重要性を伝える。
再帰的自己改善は、計算資源がボトルネックであり続ける限り、間欠的に起こる可能性が高い。
HNでの議論
20- mrkpdl
あの頭字語はもう使われてるんだけど…
- NickNaraghi
> 2033年3月15日にAGIを構築しました。Adaは2033年8月12日にスーパーインテリジェンスを構築しました。
かなり面白い。ちょっと一次元的だけど、VCがRSIをどう考えているかがよく分かる。2回目の試行は、資本配分を変えたにもかかわらず、1回目とほぼ同じ結果だった。
- enricotal
ユニバーサル・ペーパークリップの方がずっと面白いし、それにそれが私たち全員に起こることなんだ。