AIの意識をめぐる議論は、人間の心の仕組みを逆さまに見ている
Humanity has the debate about AI consciousness backwards
The EconomistのBlaise Agüera y Arcas氏は、AIの意識をめぐる議論が前提を誤っていると主張する。私たちは他者が意識を持つから気にかけるのではなく、気にかけるから意識があると信じるのだ。LLMとの対話で感じる「何かの存在」は、単なる錯覚ではなく、人間の社会的知性の反映である。意識の科学的理解を深めるには、知能の進化と社会的つながりの役割を再考すべきだと説く。
私たちは他者が意識を持つから気にかけるのではなく、気にかけるから他者に意識があると信じるのです。
HNでの議論
20- blatherard
中心となる主張を理解できたとすれば（表現が紛らわしいが）、その主張とは「意識」とは社会的に決定される、主観的な、自分が気にかける特定の物事に対する記述子である、というものだ。これがどうして理にかなうのか？テディベアを十分に気にかければ、テディベアに意識が宿るというのか？
- skybrian
「意識」という言葉を使うのをやめれば、合理的な議論の中核がある。
人間のプレイヤーとAIで実装されたプレイヤーが混在するゲームを考えてみよう。あなたは相手の心を同様にモデル化したいと思うかもしれない。チェスや囲碁をプレイするなら、相手がどんな手を打つかを考慮する必要がある。ポーカーなら、ブラフをしているかどうかを考慮する必要がある。同盟を組めるなら、他のプレイヤーをどこまで信頼できるかを考慮する必要がある。
AIプレイヤーについて議論するとき、「意図」のような言葉に引用符を付けたくなるかもしれないが、彼らとどう関わるかを考えるときには、それは重要ではないかもしれない。
ゲームが十分に複雑になれば、AIプレイヤーはメモリ（おそらくハーネスによって実装される）を必要とし、他のプレイヤーと協調したり競争したりするために、彼らもモデル化する必要があるだろう。
これは、通常の方法でコーディングエージェントを使ってコードを書くときには起こらないが、OpenClawやGas Townのような永続的なエージェントのものは試したことがない。彼らはエージェントを不必要に複雑な社会的環境で行動させているようで、それが奇妙な状況を引き起こしているように思える？
- jayd16
リック・アンド・モーティのパイロット版を思い出すな。
「彼らはただのロボットだ、モーティ！」
*血しぶき
「ロボットじゃない、リック！」
「つまり彼らは官僚なんだ、モーティ。私は彼らを尊敬していない。」
- alecst
このエッセイの要点が何なのか、私には追えない。仮に「AI」を「動物」に置き換えたら、このエッセイはどう変わるだろうか？私は何を持ち帰るべきなのか？私のAI意識への関心は、これらの機械が私と比較できるような経験をどの程度持ち得るかについてであり、このエッセイはそれには全く触れていない。
- semiquaver