AI開発の一時停止を求める声、ただし自分たちは除く
Everyone should slow down AI development except for me
AIの急速な進歩が社会崩壊を招くとして、業界全体にフロンティア研究の一時停止を呼びかける皮肉な記事。筆者は自社のLygma AGI labが追いつくための時間稼ぎだとし、AGIで猫耳を実現するという荒唐無稽な計画を披露。他のAI企業にも同調を求め、本音は銀行口座の桁数だと暴露する。
我々の計画は汎用人工知能を発明し、それに人々に猫耳を与える方法を考えさせることだ。
HNでの議論
338- AaronAPU
彼らは公衆向けのAI開発を遅らせることについて話している。そうすれば、国民国家が自分たちと一般大衆との間に能力格差を生み出せるからだ。
なぜ誰もこの明白な説明を指摘しないのか？これが、議論の中で「中国と競争しなければ」という懸念が突然消えた理由を説明している。
政府は国家安全保障を理由にSam、Dario、Muskを黙らせ、彼ら全員を公衆向けメッセージングの背後にまとめることができる。
- bawana
イランでそれを解き放つつもりなのか？もちろん、一度解き放たれれば、ここにはるかに多くのインフラがあるから戻ってくるだろう。
- coderintherye
一部の我々はただ営業マンにずっと慣らされていて、それゆえ「AI安全性」プロパガンダにも慣れているのではないかと思わざるを得ない。「AI安全性」の人々が主導すべきだと考える人と論理的な議論をしたことがまだない。そして、彼らのほとんどが実際に望んでいるのは、権力の鍵を握ることだと本当に理解していないのだと思う。
- olalonde
予測：数年後、我々はこのヒステリーを笑い、それを道徳的パニックと呼ぶだろう。
- dvt
お決まりの「Lygmaとは何だ？」だが、真面目な話、このAI終末論は喜劇的な転換点に達している。数年前、GPT-2は危険すぎて公開できなかった。次にGoogleの変人がGeminiには魂があるとか言った。次にMythos-tierがミームになった。次にどこかの子供が辞めてFOX NewsでSkynetについて語った。そして今、AmodeiとAltmanが再び「減速する必要がある」列車に乗っている。これはすでにその道を辿り、Claudeが海外で禁止された後のことだ。待てよ、実際その禁止はまだあるのか？正直、この時点で誰が気にする？
すべては芝居だ。OpenAIとAnthropicはおそらく破綻するか、より現実的には部品として売られるだろう。そして、私（私が書いた本、ブログ記事など）や他の多くの人々の知的財産を盗んだのだから、当然そうなるべきだ。我々はモデルがコモディティ化しつつある地点に達しており、次の動きはこれらの推論システムの上に乗る一種の「ソフトウェア層」であり、それが実際の革命になると100%確信している。モデル自体はもうそれほど面白くなくなる。周りにあるすべての作業がそれを価値あるものにする（今日のコンピュータや電話のようなものだ。チップは素晴らしいが、ソフトウェアこそが本当の魔法だ）。
唯一怖いのは、議会のベビーブーマーたちがこれらのナードを信じるかもしれないことだが、ビッグテックの支持率が90年代のビッグタバコのレベルに達しているのを見ると、あまり心配する必要はないと思う。
- shelled
奇妙なことに、ある種のアラインメントが達成されるだろうと夢見られ／期待されている。あるいはそれが意図だと。これは40年代と50年代に始まった核競争と似ており、防止は続いている！安全性と危険性の問題ではなく、よりオープンな核アクセスがより安全だったかどうかは言わない（そうは思わない）。これは、ごく少数の選ばれた者だけがこれを所有し支配すること、おそらくは非常に近いうちに、計り知れないほど危険で安全でない技術フロンティアを。単一の国の少数の企業、あるいはごく少数の国々からの少数の企業。他のすべてを断固として排除する。それが本質だ。
さらに悪いことに、この場合の「他のすべて」は他のすべての国や企業だけでなく、文字通りほとんどすべての人々だ。
- hn_submit
これこそがAnthropicのAI開発減速の呼びかけが失敗する理由だ。株主は、会社がリードを失い、それに伴い株価が急落することを受け入れるのを嫌がるだろう。
さらに、それは中国に追いつかせ、最終的にこの分野で米国を追い越したと宣言させるかもしれない。米国政府はそれを許さないだろう。
- tabs_or_spaces
これは権力の統合についてだ。
オープンウェイトモデルはフロンティアに追いつきつつある。また、フロンティアモデルは何らかの限界に達したようだ。それが設備投資関連か、ビジネスモデル関連か、何か他のものかは誰にもわからないが、すべてのフロンティアラボで起きているようだ。
AIが我々全員を殺すという恐怖は何度も煽られてきた。しかし今回は、Anthropicでの在職期間が約2〜3ヶ月の人物が、以前のソーシャルメディアアカウント活動なしでバイラルになり、すべてのニュースメディアに取り上げられ、また別の恐怖煽りラウンドを開始した。
だから本当に問うべき質問は
* これはIPO前に評価額を上げるためのものか？
* オープンウェイトモデルが一般に使われるための真の参入障壁は何か？
* これらの企業の財務は、安全性に関するこの騒動を引き起こしている何を示しているのか？
人々は自分の周りで起きていることについて本当に批判的に考える必要がある。ここで提示されていることの額面だけを見てはいけない。
- ChaoStatiX
AIがどうなるか本当にわからない。子供の頃にただ楽しみで考えていた「AIが反乱を起こしたら？」という問いが、それほど遠くないかもしれないと感じるのは正直少し怖い。ChatGPTはほんの数年前に出たように感じるが、すでにどれだけ進歩したかを見ると、将来AIがどうなるか予測するのは不可能だ。人類がこれをうまく乗り切れることをただ願う。
- fnctrev
誰かが人類を終わらせるなら、なぜ猫娘じゃないのか？