Anthropic CEOが描く「AI安全」規制の裏側に潜む検閲の影
Who Aligns the Aligners?
AnthropicのDario Amodei CEOが提唱する「フロンティアのペース配分」は、埋め込み型評価者、民主的調整、グローバル協調の3本柱からなる。しかし、この提案は強制的な規制へ移行し、言論の自由を侵害する恐れがある。過去のGARMのような検閲産業複合体の再現や、反トラスト法違反のリスクも指摘される。著者は、AI規制が米国憲法修正第1条に反する可能性を警告する。
歴史は、政府権力の使用と濫用について多くの指針を与えてくれる。それは、国家が最も強力な出版・データ分析技術にとって、実際には最悪の管理者である可能性が高いことを教えている。
HNでの議論
97- biophysboy
> 私の常連読者ならご存じの通り、私はクライアントのために、世界中のインターネット検閲者たち――アメリカ企業がどんなソフトウェアを書き、実行できるかを指図する立場も権限も権利もあると思い込んでいる連中――と、この1年半にわたって法的に戦ってきた。
これで彼らのテック規制に関する意見を信じろと？
- fwlr
> 誰も答えを知らないし、歴史も指針にはならない。ただ、これまで新技術に関する終末論的予測はすべて間違っていたというだけだ。
もし過去の終末論的予測のどれかが正しかったなら、君はこの文を書くために存在していなかっただろうし、我々もそれを読むために存在していなかっただろう。原理的に反事実を観察できない場合、これはあまり説得力のある議論ではない。
- BirAdam
これは新しい問題ではない。quis custodiet ipsos custodes?（誰が監視者を監視するのか？）
一般的に、アメリカでは巨大企業が自らの業界の規制の枠組みを書く。こうした規制は通常、巨大企業には担えるが、その市場の小規模プレイヤーを潰すのに十分なほど重い。AI企業は今、まさにこの取り決めを推進している。彼らはおそらく望みを叶え、それによってDupontやMonsantoなど多くの企業と同様、悪行に対する法的な盾を手に入れるだろう。
- lacunary
これはいつも
すでに決着済みだと思っていた https://alignmentalignment.ai/
- petcat
この議論には、単なる利益動機よりもっとニュアンスのある視点があると思う。もし彼らがこのバージョンの「AI」が本当に危険になり、悪意ある者の手に渡る現実的なリスクがあると信じているなら、アメリカのラボが中国政府と共同の「AI不拡散」協定を進めるよう説得しようとするのは理にかなっている。ちょうど、核兵器技術が既に能力を持つ国々によって制限されるようになったのと同じように。
これは市場を囲い込むという彼らの規制目標を達成しつつ、アメリカと中国が本質的に世界の残りを自分たちの間で「技術植民地化」するという地政学的目標も達成するだろう。
つまり、利益動機は確かにあり、実際のラボにとっては深刻な収穫逓減のリスクもあるが、はしごを引き上げ始めるという国民国家的な動機もあるのだ。