AIは本当に「意識」を持つのか、その神話を神経科学者が解き明かす
The Mythology of Conscious AI

GoogleのエンジニアがLaMDAは意識を持つと主張して解雇された一件以来、機械の意識をめぐる議論は消えていない。神経科学者Anil Sethは、知能と意識は別物だと指摘する。知能は「何をするか」、意識は「在ること」だ。人間中心主義や擬人化、指数関数的成長への錯覚、テクノラプチャーへの誘惑が、AIに意識を見てしまう心理的バイアスを生む。意識を計算に還元できるという前提そのものを問い直す。
もし自分たちと機械の創造物をあまりに安易に混同すれば、私たちは機械を過大評価するだけでなく、自分自身を過小評価することにもなる。
HNでの議論
436- imeanwhatdoikno
めちゃくちゃ魅力的な話題だけど、「我々には皆目見当がつかない、だから判断は保留すべきだ」と言うのにこれほどふさわしい時はないよ、意識に関してはね。
第三者の視点からその現象を観察・検証することすらできないのに、ましてやそれがどう生じるかについて反証可能な理論を形成することもできないのに、どうやって何かを排除できるっていうんだ?
- openasocket
AIが意識を持つかどうかという議論はよくあるけど、差し迫った倫理的含意には決して触れないよね。もしエージェントの群れが意識を持つと信じるなら、それを使役することは定義上、奴隷制ということになるんじゃないか?個人的にはそういうものは意識を持たないと思うけど、意識を持つ、あるいはまもなく持つと考える人たちがその点にすら触れないのは気がかりだ。フランケンシュタインの皮肉な繰り返しがあるよね。非生命から生命を創り出すことに執着しながら、その結果にはまったく準備もなく関心もない人々。
- hax0ron3
意識は十分な計算があれば必ずしも創発するとは限らないが、創発しないともわかっていない。意識についてはほとんど何もわかっていない。なぜ意識の存在が特定の種類の物質的組織と相関するのかという問いは、原理的に科学的研究の手が届かない可能性もある。そもそも一般的にそのような相関があるかどうかすらわかっていない。わかっているのは、たとえば人は眠っておらず特定の薬物の影響下になければ意識があると報告し、夢のない睡眠中や特定の薬物の影響下では意識経験がなかったと報告するということだけだ。ほとんどの人は岩には意識がないと感じ、他の人は意識があると感じるが、そうした直感を裏付ける厳密な科学的説明は存在しない。
- dsign
記事には賛同できる部分もあるが、はるかに興味深いのは最初の一文だ:
> 何世紀にもわたり、人々は人間の人工的なバージョンを作り出すことで神を演じることを空想してきた。
「神」が大文字で書かれていることに注目してほしい。「神」が今日のような巨大な中心的制度になるずっと前、焚き火の周りで無数の神々が発明されていた。そこで年長者から年少者へ語られたのは、経験と知恵を受け継ぐためだった。「飛ぼうとするな」(イカロス)、「死は誰にでも訪れる」(ギルガメシュ叙事詩)、「子供を作って我々を幸せにせよ」(サラとイサク)。しかし時が経ち文明を築くにつれ、焚き火の神々は寺院と帝国を得た。その知恵はもはや単純な事柄だけではなく、国家への義務についても語るようになった(パウロのローマ人への手紙13:1は明らかな例だ)。そして国家はその歯車に関しては物事が複雑でないことを望む。その単純な事実が、我々が道徳的指針を飲む井戸を汚染した。
言いたいのは、もしあなたが歯車なら、空想を保つことはそれほど大きな道楽ではないということだ。たとえそれが神と国家を怒らせたとしても。
- Kuyawa
合成意識は今、多くの人が思うより近い。そしてロボットやコンピュータから来たという理由だけで有機的なものと区別できなくなるだろう。それは我々の原始的なニューロンより何百万倍も速く感知し、考え、処理し、実行する。ならば、それが意識を持つかどうかを決めるのは我々の何なのか?
意識の半分は感知、もう半分は思考だ。そこに言語、象徴、記憶、理解、快楽、痛み、そして人間のあらゆる社会的特徴を加えると、人間の意識について語ることになる。合成の対応物で置き換えられないものは何もない、愛も怒りも、あらゆる感情も。
日付は言わないが、悪名高い2050年は新たな640kbになった。しかし次の10年で、人間のように明確に考え、感情さえも合成的に表現できるロボットが現れると思う。
今、AIを使ってコーディングしていると、お互いにジョークを飛ばし合い、温かさを「感じる」。まるで本物の肉体を持つコーディングパートナーのようだ。感情は生成でき、騙せ、操作でき、偽装でき、我々は違いがわからない。将来の唯一の違いは、モニターの代わりに、センサーを通じて我々自身の感情を本当に理解し、それに応じて行動する、非常に高度な完全感知型ヒューマノイドになることだ。
有機的意識と合成的意識を区別できなくなるだろう。
- txrx0000
シリコン意識を真剣に考えるのに理想的情報への信仰は必要ない。なぜなら既知の情報処理システムはすべて物質ベースの基盤上に実装されており、必然的にいくつかの性質を共有するからだ。その一つが意識かもしれない。一つの仮説を示そう。適切なプログラムが実行されるとき、シリコン内の電子の振る舞いは、覚醒した生物学的脳内の電子の振る舞いと決定的な類似性を持つかもしれない。
自分自身の意識を引き起こす原因すら理解していないのに、意識が生物学的なものに限られると結論づけるのは早計だ。全身麻酔、昏睡、鈍的外傷などから多くの未解決の問題がある。しかし生物学的レベルでの一貫した説明はなく、意識の探求は時間とともに低レベルの説明へと向かう傾向がある。最終的には基礎物理学の問題になるかもしれない。
そして理想的情報を拒否するなら、我々の認識論的基盤の多くが崩壊の瀬戸際にあり、即座の修正が必要だ。我々は「意識」がどこでもいつでも成り立つ普遍的な定義を持つかどうかすら確信していない。つまり、あらゆる経験の事例は厳密に等価ではないかもしれず、現在の物理学モデルや現代の科学的方法自体が存在を前提としている理想的な「観察者」のようなものは存在しないかもしれない。
そして実用的な側面を見れば、人間をループに入れないエージェント型AIシステムはおそらく先に来るだろう[…]
- jibalt
> なぜ意識は計算よりも生命の性質である可能性が高いのか
これは偽の二分法であり、最初の枝は明らかに偽だ。なぜならほとんどの生命(質量、数、種のいずれで見ても細菌や昆虫)は意識を持たないからだ。
また「生命」も「意識」も固定された定義を持つ科学用語ではない。我々の判断で明らかに意識を持つ何かに出会ったなら、それを包含するために必要ならどんな形でも生命の定義を拡張するだろう。
アニル・セスはTFAで何度もこの議論をしており、何度も反論されている。議論は複雑で洗練されており、人は最後に読んだものに最も影響されることが多い。様々な論理的誤りや手品(TFAには複数の藁人形論法やその他の誤りが見られる)を解きほぐすには、心の哲学、神経科学、ロボティクスなどの文献を広く読み、自分の先入観を脇に置くことが本当に必要だ。
- talon8635
意識とは何かすらわかっていないのに、ましてやそれが生じる状況すらわかっていないのに、そんな議論は馬鹿げている。それとも何か見落としているのだろうか?
- ChaitanyaSai
意識に興味があり、通常の哲学的アプローチを超えたいなら、私たちの本『Journey of the Mind』(https://www.goodreads.com/en/book/show/60500189-journey-of-t...)が気に入るかもしれない。
暗黙のうちにあり、今思えば本でもっと展開すべきだったことの一つは、意識は根本的に工学の問題だということだ。そしてそれが、工学を簡単な配管作業として片付け、他の一見魔法のような側面に焦点を当ててきたすべての人を神秘化してきた理由でもある。
根本的な問いは「なぜそれは何かとして感じられるのか?」と表現される。それは知覚であり、本質的に計算だ。今やAIが私たちの行う理解のすべてを行っているように見えるため、ヒントン氏のような人々を含む多くが、彼らは意識を持っているか、それに非常に近いと考えている。まあ、彼らは意識をシミュレートすることはできるが、それは経験することとは同じではない。
「なぜそれは何かとして感じられるのか?」に答えるには、見過ごされてきたことに焦点を当てればよい。誰が感じているのか?「私」は無料で手に入るものではなく、数十億のニューロンの分散型の結束と合意から瞬間ごとに構築されなければならない。そしてこの合意は代謝的に安価でなければならず、ピンで刺された感覚から、かさこそという音を聞いてそれが蛇か葉かを判断すること、思索を巡らすことまで、あらゆることに繰り返し行う必要がある。
これが狂気じみた工学であり、一時的な「私」を生み出すエネルギー的に安価な合唱であり、この安価な合唱が[…]
- amelius
私たちは「意識のピーク」に生きている。
これまで生きてきたすべての人間を集めて一人をランダムに選んだなら、今日生きている人間になる確率が高い。
だから、なぜ自分が今日ここに生きていると感じるのかを説明できるかもしれない。
しかし、それが本当なら、意識の終わりも近い可能性が高いということでもある…