「2030年に世界は終わらない」Nvidia CEOがAI脅威論を一蹴
Not all AI workers think the tech could kill everyone
OpenAIやMeta、DeepMindの社員らは、AIが人類を滅ぼすという主張に懐疑的だ。ある元OpenAI社員は「あの人が？」と笑い、Metaのデータ科学者は「LLMにはそんな闘志はない」と述べた。NvidiaのJensen Huang CEOは「2030年に世界が終わる確率は0%」と断言。一方で、差し迫ったリスクへの懸念は強まっている。
「2030年に世界が終わるわけがない。その確率は0%だ。人々を怖がらせるのは不要であり、無責任だ」
HNでの議論
20- pveierland
Fraserの説明は技術的で具体的だったが、締めくくりに軽妙な一言を添えた。「LLM（大規模言語モデル）が人類を絶滅させることはない。なぜなら、彼らにはそんな度胸（dog）が備わっていないからだ」。
優れたwhileループの底力を見くびってはいけない。
- 0xDEAFBEAD
Coxonは、現在存在しないAIモデルに基づくAIエージェントの集団が、生物兵器を製造し、それを標的にすることを決意する可能性があると述べたが、それが具体的にどのように行われるかについては詳しく説明しなかった。
何百万人もの聴衆を前にして、生物兵器の製造方法の詳細を進んで明かそうとしない人がいる理由が、私には想像もつかない。
- bb88
AIは意識を持ち、全員を殺すようになるのか？
それとも、今日存在する意識ある存在が、それを使って全員を殺すのか？
実際のところ、意識を持つ必要も、法的・道徳的問題を理解する必要もないと思う。
ただ、すべてはシミュレーションであり、誰かを傷つけることから完全にサンドボックス化されていると伝えればいい。