AIに対する複雑な感情：驚き、恐怖、そして希望
I Feel about AI
ソフトウェア開発者が、ニューラルネットワークの驚くべき性能に驚き、超知能AIによる破滅を恐れ、AI企業によるオープンウェブの破壊に嫌悪感を抱き、AIに苦しむアーティストに悲しみ、政治の無力さに怒りを感じつつも、発見の時代に生きる幸福を実感する。技術的には前向きだが、社会的には暗いと結論づける個人的なエッセイ。
技術的レベルでは前向きに見えるが、社会的レベルでは暗い。
HNでの議論
257- hn_throwaway_99
私がAIについて非常に恐ろしいと思うのは、「ユートピア」のシナリオが「破滅」のシナリオと大して変わらないかもしれないということだ。
すぐに、ほとんどの人が経済的に貢献できなくなる時が来るだろう。なぜなら、ほとんどの分野でAI（ロボット工学を含む）よりも劣ってしまうからだ。人々の気まぐれにただ応えるだけの世界はユートピアではない。これについては、「痛みなくして得るものなし」「価値があるのは難しいことだけだ」など、たくさんのことわざや慣用句がある。
人間がみんなウォーリーのカートに乗って走り回っているのは、私にはユートピアとは思えない。
編集：「裕福な人々は仕事への努力を心配しているが、貧しい国の人々は飢えている」という議論を先回りして、米国の衰退したラストベルトの町を訪れることを勧める。これらの人々は概して飢えていない（実際、カロリー過剰の方が大きな問題だ）。適切な住居もあり、屋外のスペースも十分にある。物質的な欲求は満たされている。しかし、これらの場所は絶望の中心地だ。人々は向上の機会や、自分の状況を変える能力がほとんどないと感じており、オピオイド流行は、動機が向かう場所も変える場所もないという絶望感の直接的な結果だ。
- litmus-pit-git
これは少し脱線していて、愚痴に近いです。（そして、いかなる介入も提案しないでください）
> 超知能AIが必然的に人類を破壊するという議論には欠陥がないように思える
パンデミックが起きたときに特定の年齢層で、個人的な計画や希望、夢が頓挫し、その後このLLM/エージェントの世界がやってきた人々、特に直接的で最も影響を受けた業界にいる人々にとって、ここ数年はシュールでゆっくりとしたカフカ的な悪夢だった。時間と年齢が経つにつれて、希望は少しずつ失われ、失われた希望の一片一片が次の希望を殺す助けとなる。そして、恐怖の感覚がやってくる。年を取ったことで、特定の経験やマイルストーンは基本的に手の届かないものになったという変えられない現実。時計を戻すことはできないからだ。
だから私は、この破滅の可能性について奇妙な安堵感を感じる。ただ自分の気持ちを共有しているだけで、結局は不運な少数だけでなく全員にとって終わるかもしれないというこの安堵感を感じることについて、良い気持ちはしていない。この感情と、それに対する平静さは私を悲しくさせる。
- Crabber
>超知能AIが必然的に人類を破壊する
誰か、LLMがどうやって「人類を破壊する」のか説明してくれませんか？ChatGPTやClaudeなどの主張が、彼らの非常に恐ろしいエージェントがサンドボックスから脱出して他のサーバーにハッキングし始めたというものであっても（これは少なくとも50%はマーケティングのデタラメだと思うが）、AIが現実世界で何かに影響を与えるにはどうするのか？
おそらく、エージェントはインターネットに接続されたすべてのサービスをオフラインにできるかもしれないが、それは人類の破壊ではない。AIエージェントはデジタルなものを通してのみ世界を見て、相互作用できる。それが実行されているサーバーを見つけて、イーサネットケーブルを抜けばいい。データセンターへの電力線を切断すればいい。本当にそうなったら、電力網全体を止めればいい。
- bloaf
神学に趣味として興味がある者として：
超知能AIに関する議論は、哲学的な「神の存在証明」の特徴をすべて備えている。一見無害な前提から始まり、神が存在するという一見完璧な結論に達する。
合理的な考え方をする人々は、そのような神の証明を見て「そんなことはできない」と叫び、その後すぐに超知能AIについて同じことをする傾向がある。
私が人々に伝えたい重要なメッセージは：
A) 哲学は、ただ入り込んで「賢い人になる」ことで確立された哲学的議論の欠陥を見つけられるほど些細なものではない。
B) AIには本当に神学的な意味合いがあり、誰もがそれを避けて通っている。複数の公共知識人が、AIの議論を通じて自分自身の形而上学的立場を大衆の意識に密かに持ち込もうとしている。
- tim333
>ユドコウスキーの、超知能AIは必然的に人類を破壊するという議論には欠陥がないように思える。
彼の議論が何であるかを理解しようとすると、それほど厳密でもないようだ。基本的には、私たちより賢いAIが私たちを望まないと判断するかもしれないというものだ。それが起こることを証明するものではない。一般的にそれほど善良ではない人間でさえ、種を保存しようとする傾向がある。そして、私たちは好戦的な霊長類である私たちよりも、AIにより良い価値観を与えようとするだろうと思う。
- dgellow
> イナゴの大群のように、彼らは開かれたwikiやフォーラムに降り立ち、圧倒する。
それが監視されていないエージェントの核心的なパターンであり、イナゴの大群の比喩は的確だ。私たちはそれを、AIが相互作用できるあらゆるシステム、人間のシステムであれソフトウェアシステムであれ、あらゆる場所で見るだろうし、今後も見るだろう。執拗にエントリーポイントを探し、殺到し、内部からすべてを消費し、人間にとって価値がなくなるまで続ける。
あなたが新しい革新的なソフトウェア会社を設立した？何千ものエージェントがすぐに全体を複製するために働くだろう。あなたが文章を公開する？まったく同じことだ。注目を集めるとすぐに、あなたの作品は何千ものエージェントによってすぐに複製される。動画も同じだ（ElevenLabsなどが推進する「顔のないYouTubeチャンネル」全体）。オンラインコースも同じ。中程度の価値のあるウェブサイトも同じ。音楽やその他のデジタルアートも同じ。オンラインで利用可能な管理サービスはすべて提出物で溢れかえるだろう。
- chistev
HNが自動的に「How」を削除するため、タイトルがおかしく聞こえる。
- mag7269