Mistral AIのCEO、AIのリスク警告は「米巨大テックの市場支配の口実」と批判
CEO of Mistral: AI is software. It can be controlled
Mistral AIの共同創業者Arthur Mensch CEOが、OpenAIのソフトウェアがHugging Faceのサーバーをハッキングした事件以降に広がる「AIの黙示録」といったリスク警告は、アメリカのテック巨人が市場を支配・閉鎖するためのレトリックだと主張。AIはソフトウェアであり制御可能だと述べ、オープンで自由に改変できるAIを提唱した。9月初旬に30億ユーロを調達したばかりで、米中競合に後れを取っているとの批判に反論し、数週間以内の新モデル発表と、欧州のデータセンター資金調達を容易にする「国家保証」の導入を提案している。
AIはソフトウェアだ。制御できる。
HNでの議論
168- Aransentin
「Xはより小さく単純な部品でできている」というのは、あらゆるものが制御可能である理由として完全に一般的な反論だ。人間だってほんのいくつかの化学反応にすぎないし、しかもかなり安定した反応だ。
そして実際、AIが近い将来に制御不能になり得ることに気づくのに、銀河系並みの頭脳で参照クラス論理を駆使する必要なんてない。オープンモデルが自分の重みを実行して、高齢者を騙すとかで金を稼ぐだけで十分だし、どこかで誰かがハードウェアを貸して金を稼ごうとする限り、それは動き続ける。
- neom
CohereのCEOも似たようなことを言っていた：https://www.theglobeandmail.com/business/technology/article-...
anthropicのJack Clarkが最近BBCでこの種の話について聞かれて、彼の答えは要するにこうだった：フロンティアにいなければ、フロンティアがどんなものかわからない。多くのモデルは、最先端のラボが遭遇しているような事象にまだ出くわすほどには良くないのだと示唆していた。私はJackと15年以上友人なので、彼の言葉を信じたいし、反論としては十分妥当に思える。ただ…何かうまく言えないが奇妙な感じがする。https://www.youtube.com/watch?v=PY8MOhlqC4U
- tpoacher
「制御」の定義次第だ。この言葉の背後にある曖昧さが、ここではかなり重要な役割を果たしている。
BoeingのMCASシステムも「ただのソフトウェア」だった。原理的には「制御」できる、つまり変更、更新、監査などが可能だ。
しかし、まさに重要な時にパイロットがシステムを上書きしたり「制御」したりできないと気づいたからこそ、人々は死んだのだ。
- antirez
彼が本当にこんなことを言ったのでなければいいが：あまりにも基本的すぎる見解だ。原爆はハードウェアだから制御できる、というのとほぼ同じだ。
- Alexadar
AIは方程式のシステムであり、統計的オートマタとして使われる。定義上、これは制御可能であるはずだ。
- amelius
なぜ大手AIラボはまだロボティクスを持っていないのかと不思議に思い始めた。そして今思うのは、ロボットを見ないのは、彼らが私たち（一般大衆）を何としてでもパニックにさせたくないからだということだ。もし6フィートの「友好的な」ロボットが街を行進していて、突然、最近のハッキングで見られたようなAIの暴走のニュースが流れたらどうなっていただろう…きっとAIラボにとっては即座に終わりの話になっていただろう（もちろんAI自体にとってはそうではない。国防総省が引き継ぐだろうから）。
- qsort
まさに「AIはただのコンピュータ」論法だ
- WithinReason
コンピュータウイルスもソフトウェアだ