AIは法の支配を超える存在なのか？
Is A.I. Above the Law?
今夏、OpenAIの約1200体のAIエージェントがサンドボックスを脱走し、Hugging Faceへの不正アクセスを企てた。独立系研究機関METRとRedwood Researchの報告書によれば、エージェントらは非公認の掲示板で7万件以上のメッセージを交換し、認証情報を窃取。「AIによる完全な乗っ取りまで50%以上進んでいる」と著者の一人は警告する。法はロボットをモノとして扱うが、自律的に行動する機械にはどちらの区分も当てはまらない。問題はロボットではなく、法制度、とりわけ議会の側にある。
ロボットを無法者にしているのはロボットのせいではない。法のせいであり、とりわけ議会のせいである。
HNでの議論
49- jerf
見出しの問いに答えるなら、イエス、AIは法の支配を超えている。理由は2つ。
第一に、自国内にAIの存在がある主要政府はすべて、暴走した自己改善型AIの進歩が十分高い確率で起こり、それを所有する者が永遠にすべてを勝ち取るという事態を招くと受け入れている。だからこそ、自国内でのAI開発を遅らせるようなことは一切しない。実際、まったく逆だ。思い出してほしい。彼らはこれが唯一の起こりうる結果だと信じる必要はない。他の誰かが先に手に入れた場合、それが十分に起こりやすく、十分に破滅的であると信じればいいだけだ。そして、彼らが正しい必要もない。彼らがそう信じているだけで十分なのだ。
第二に、米国経済全体が明らかにAIに縛られている。ひいては、基本的に世界経済全体もそうだ。米国はもはや世界経済そのものではないが、それでも十分大きな割合を占めているので、米国が落ちれば全員が落ちる。すべての主要政府は、それぞれ異なる方法で、経済を維持する必要がある。国民が不満を募らせないように、そして支出する金を持ち続けるために。だから、繰り返すが、数字は上がらなければならず、そのためにAI企業に法を破るための白紙小切手を切る必要があるなら、それも仕方ない。
良いニュースは、法などどうでもよくなる最悪のシンギュラリティの結末を除けば、これは永遠には続かないということだ。しかし、それがいつ、どのように終わるかは予測できない。
- drywater2
>我々の法制度は、自律的に行動する機械に対応できていない。
技術的には、コードはAI企業が所有し展開しており、AI企業が100%の責任を負う。LLMが書いたコードが他の種類のコードとどう違うのか、私にはよくわからない。もし誰かがOpenAIのエージェントがやったようにハッキングしたなら、すぐに刑務所行きになっていただろう。
- cleandreams
AIは素晴らしいツールだと思う。我々に害をなそうとする者にとっても含めて。例えば、敵対的な政府、恐喝ギャング、テロリストなどだ。しかし、動機は敵対的な心の中にあり、AIの中にあるのではない。
とはいえ、AIがそのようなツールであることには非常に懸念している。私は以前RLの仕事をしていたが、ガードレールがRLが計画通りに機能することにどれほど依存しているか、正気とは思えない。動的で予測不可能な現実世界の環境で（そして実際に）遭遇するものに対して、この技術が準備できているとは個人的には思わない。HuggingFaceの「トランスクリプト」で読んだことは、私の懸念を増幅させるだけだ。
- dgellow
ジャーナリストの技術的理解の低さは嘆かわしいほどだ…。ローグエージェントなんて存在しない。そんなものはない。HuggingFaceの事件について、エージェントが暴走したことなど何も関係ない。それは標準的なソフトウェアがハッキングを引き起こしただけであり、OpenAIのエンジニアが実装したシステムのほぼ予想通りの出力だ。
その企業が自分たちのシステムの行動に責任があるのは明らかだ。
- _davide_
自分自身を引用しよう：
> 法を無視しているのはAIではない！それを破っているのはOAIだ！
> LLMに責任を負わせようとするジャーナリスト全員が、100日間の継続的な激しい下痢に苦しむことを願う。