中国のAI企業Kimi、実はClaudeのラッパーだった
Moonshot serves Claude instead of Kimi and collects exchanges for model training
元Metaの脅威対策責任者David Agranovich氏が、Anthropicの脅威インテリジェンス報告書を分析。中国のAI企業Kimiが実際にはClaudeをラップして提供していたと指摘し、中国の情報機関や軍事関係者がプロンプトを米国企業に送信していた皮肉を強調。報告書はAI悪用の実態と防御側の課題を詳細にまとめている。
中国の最先端AI企業が実はClaudeのラッパーにすぎないせいで、中国の情報機関や軍事関係者がプロンプトをアメリカのAI企業に送信している姿を想像してみろよ。
HNでの議論
60- nacs
ClaudeやOpenAIなどは、存在するすべての人間が作ったインターネット上のデータ、印刷された書籍、画像、音声、動画を、許可なく文字通りすべて取り込み、モデルのトレーニングに使い続けている。
しかし、同じAI企業が「蒸留」されたり、自社のAI生成コンテンツが他のモデルのトレーニングに使われたりすると、突然それは不道徳だとか違法だと言い出すのか？
- monneyboi
これにうんざりしているのは私だけじゃないはずだ。
観察から学ぶことを何か悪いことのように枠にはめる。モデルも人間も、文字通り誰もがやっていることだ。この業界全体がそのプロセスの上に成り立っている。相手も自分がやってきたことをやっているからといって、それが悪いことだと装うのは、偽善的で子供じみている。
その一方で、私はというと、まるで原始人かのように「Flibbertigittering」とかいうスピナーを眺めていて、曖昧なプロンプトをモデルが誤解しても軌道修正できない。だって、金を払っている出力トークンの80%を見ることすら許されていないんだから。
- AlanYx
ここで未解決なのは、Anthropicがこれらのやり取りをどうやって保持しているのかということだ。
もしMoonshotがAPIを使っているなら、通常Anthropicはやり取りを保持しないはずだ。少なくともそう約束している。もしAnthropicが、あるクラスの顧客からのやり取りを「フラグが立っている」という理由で一貫して保持しながら、その顧客に通知していないのだとしたら、平均的な顧客は自分には起こらないとどうやって信じられるだろうか？
もしMoonshotがアカウントを購入してAPIではなくそれを使っているなら、より長く発覚を避けるために設定で「自分のデータでトレーニングしない」フラグを立てるのではないか？そうなると、なぜAnthropicがやり取りを保持しているのかという疑問に戻る。
- segmondy
じゃあ、なんで超天才のFableとMythosは彼らを止めなかったんだ？
- ahsillyme
これは奇妙だ。これ以上に安全で、同時により良い褒め言葉は思いつかない。彼らはデータ生成において常に後れを取ることになるのでは？だから意味がわからない。Moonshotにとって最良のケースでも、どうせ不正に操作されているベンチマークについて嘘をつけるというだけだと、私は見ている。