AIのルールを決めるのは誰か？Cohere CEOが問う「カルテル」の危うさ
Who Gets to Define the Rules for AI?
Cohere CEOのAidan Gomez氏は、AnthropicのDario Amodei氏が提唱する安全名目の独占禁止法適用除外に異議を唱える。1975年のSEC格付け機関や1985年の欧州自動車業界の事例を引き、少数企業がルールを握れば競争が歪み安全も損なわれると指摘。証拠に基づくリスク評価、透明性、能力に応じたテストという4本柱の代替案を提示する。
もしこれが人類史上最も重大なテクノロジーなら、そのルールを独占禁止法の適用除外の下で商業的に結託した少数企業が書くことはできない。
HNでの議論
40- jeffreygoesto
この記事は「どのように」と「なぜ」に多くを割いているが、それ自体のタイトルには実際には答えていない。我々は答えはすぐそこにあると思っていた。民主主義においては、人々はルール策定の作業を選出された人々のグループに委任する。そしてルールは別の独立した人々のグループによって執行される。現在、これは（米国に限らず）機能不全に陥っているように思える。
- Moon_Y
複数の主要な研究所が独占禁止法の適用除外の保護の下で独自のルールを策定することを許すことは、本質的に公共政策の策定を利害関係者に外注することを意味する。独立したレビューの方向性は正しいが、レビュー基準、執行権限、参加資格は、少数の企業によって密室で決定されるのではなく、公開討論を経る必要がある。
- Stitch4223
インターネットやAIのような新技術に関する法律のほとんど、いやすべてはすでに存在する。例えば、窃盗、恐喝、殺人などはすでに確立された犯罪である。それらの前に「サイバー」や「AI」を付けても同じ犯罪になる。これらのルールのどこが実際に新しいのかに非常に興味がある。
- throwworhtthrow
これは昨日のDario Amodeiのエッセイ「We Must Pace the Frontier」への反応だと思う：https://news.ycombinator.com/item?id=49672510
Cohereの異議は主に誰がルールを作るかについてのようだ。そのエッセイから（残念ながらかなりAIによって書かれたように思える）：
> AIに関するルールはどちらにせよ作られつつある。まだ未解決なのは、誰でも参加できるグループによって、誰でも検証できる証拠に基づいて作られるのか、それとも密室に閉じこもった一握りの企業によって作られるのかである。
もちろん、どのAI企業も、自社がホストするエージェントによる違法行為に対して責任を負うべきだとは提案しないだろうが、それは非常に効果的な「ペース調整メカニズム」になり得るし、このエッセイで提起された公平性と透明性に関する懸念に対処するものだと思う。
- moktonar
これは民主的なプロセスであるべきではないか？