DeepMindがAGI研究の新機関「DeepMind Institute」を設立
The DeepMind Institute
AGIが目前に迫るなか、DeepMindが新たな研究機関「DeepMind Institute」を設立。Shane Legg、James Manyika、Demis Hassabisらが、AGIが人類に与える影響を学際的に探る重要性を説く。推論の透明性、AGI時代の経済政策、新たなユートピア主義の原則、フロンティアAIの枠組みなど、複数のエッセイを公開している。
AGIに近づくにつれ、それが人類に与える深い影響をよりよく理解するために、学際的な思考が急務となっている。
HNでの議論
70- spyckie2
彼らの経済政策の記事はかなり良い：
- 我々が気にかける事柄について、より速く、より良く、より正確な測定の必要性
- 軽度から大混乱に至るまでの3つの影響シナリオ
- 軽度の政策はすべて常識的で、例えば失業保険の拡充や勤労所得税額控除など
- 大混乱の政策もかなり論理的で、AIの利益の一部を所有することの重要性を強調している
- AI評価者が政策の有効性を選別し、重み付けする
この記事には多くの思考、研究、そして労力が注ぎ込まれているように私には見える。
AI評価者を使って政策の有効性をスコアリングし重み付けすることに人々が文句を言うのはわかっているが、どんな研究論文を読んでも、研究者が評価したスコアリングを行っている。それはつまり「まだ仕事に就いたことのない26歳の博士課程候補生である私と、一晩中一緒に起きてこのテーマについての彼の直感を教えてくれたルームメイト」ということだ。
これらの記事をDarioやSamのブログ投稿／スピーチ／行動喚起と同じレベルだと一蹴するのは、私の意見では間違いであり怠惰だ。これらは実際の研究論文なのだから。
- etrvic
今日のトップリンクのほとんどが、同じアカウント——しかも作成から11日しか経っていないアカウント——によって投稿されている理由を誰か知っているだろうか？
- credit_guy
「フロンティアのペース配分」問題についての私の意見はこうだ。再帰的自己改善はAIの進歩を大いに加速させ得る。それを最初に成し遂げた者には、巨大な先発優位性がある。しかしOpenAIは「素早く動き、物事を壊せ」という姿勢を取っている。これはAnthropicにとって非常に厳しい状況を生み出している。二度測って一度切ることを続けているのに、競合他社がそこら中で物事を爆破し続けているとき、どうやって優位性を維持できるというのか？
そもそも少し後れを取っていたGoogleは、AI開発に対してより慎重なアプローチを取るよう求める声に加わることに大いに満足している。ゆえにDeepMind Instituteである。
Sam Altmanは、これらすべての考えに同意しているふりをするしかない。他に何を言えばいいというのだろうか？
- nsagent
彼らは単にAI政策の議論を誘導しようとしているだけだ。要するに内製のシンクタンクである。特に次のような不吉な予言を伴う点で、その装いをすべて備えている：
今日のAIシステムは印象的な能力を持ち、その急速なイノベーションのペースは、我々が今や人工汎用知能（AGI）——人間の脳のすべての認知能力を示すシステム——に近づいていることを示唆している。
我々が人間の脳のすべての認知能力に近づいているかどうかはわからない…重度にロボトミーされた脳にさえも及んでいないのではないか。
- ACV001
あのウェブサイト、フォントをもっと灰色にできるものだろうか。もっと灰色に、だ。まだ読めるから（かろうじて）。