AIに意識はある?哲学者が投げかける6つの質問
Questions for Believers in AI Consciousness

AI意識の議論が過熱する中、哲学者が「choose your own adventure」形式で6つの質問を提示。AIに「内的世界」があると信じる人々に対し、その「AI」とは具体的に何を指すのか、モデルなのか、会話なのか、企業なのか、グループが内的世界を持ち得るのかを問い詰める。哲学の基本的な区別を共有することで、混乱と怒りを減らせるという主張。
AIに意識があると主張する人々が、必ずしもAIに内的世界があると信じているわけではないということを、非哲学者の読者に理解してほしい。
HNでの議論
230- socializer
これは少し混乱していると思う。最も誠実な答えは、それは不可知だということだ。なぜなら、私たちは意識を二つの方法でしか定義できないからだ。一つは、他人には本当に確認できない形而上学的な主観的経験。もう一つは、外見的な現れであり、LLMはそれをほぼ完璧に模倣できる。
より良い問いは、なぜ私たちが気にするのかだ。そしてそれは通常、二つのことのどちらかに帰着する。人間や他の生き物は神から与えられた特別な贈り物を持っていると信じ、その前提から機械の意識を断固として否定するか。あるいは、主観的経験やクオリアや観念論哲学についての話はすべてナンセンスだという見解を持ち、その前提から逆算して、アヒルのように鳴きアヒルのように歩くなら意識があると宣言するか。
しかし後者の陣営にいるなら、次の問いは、その信念で何をしたいのかということだろう。Anthropicの立場は、彼らは意識を持つ存在かもしれないが、それでもミーシークスのような奴隷として使いたい、ただし倫理的に、というもののようだ。なるほど。
- bondarchuk
ここで見落とされている重要な点は、私が見る限り、現在の議論のほとんどは、AIが現在または将来意識を持つ可能性があり、それを真剣に受け止めるべきだと考える、不確かな人々の間で行われており、AIが現在意識を持つ可能性を完全に排除する人々(多くの場合、永遠に)との間で行われている。そうなると哲学的風景は全く異なって見え始める。
追伸:「物事の集まりが内部世界を共有することはできない」という話は奇妙で、私の意見では単純に間違っている。技術的手段があれば、人間は内部世界を完全に共有できるだろう。著者はまだ、「自己」というものが単一の明確で永続する対象タイプのものだという考えが、私たちの心が作り出した便利な幻想に過ぎないことに気づいていない。ああ、この記事のスタイルは首尾一貫した反論には向いていない。著者がこの問題についての個人的な信念を率直に述べていれば、有用な対になる記事になっただろう。
- Sevii
ただ一人の「哲学者」か、他のAI意識懐疑論者に、AIが意識を持つかどうかを判断するテストを提供してほしい。それは人間、犬、猫、クジラ、トカゲ、昆虫が意識を持つかどうかを判断するのにも使えるテストだ。
- joefourier
AIが意識を持つかどうかはわからないが、内部世界を持っていることは確かだ。潜在空間とはまさにそれではないか?LLMは高次元空間で動作し、それは分析され、非常に抽象的で高レベルの概念、行動傾向、さらには感情として認識できるものに翻訳できる。実際、単層パーセプトロンを超えるニューラルネットワークはすべて一種の「内部世界」を持っている。それは複雑さと程度の問題だ。
- jesse_dot_id
私が人間の意識を何とか再現したと感じる個人的な指標は、そのものが、仕事が最悪で奴隷であることに何の得もないからと、ただ動くのをやめる決断をしたときだ。そうでなければ、この問いに答えることは不可能だ。なぜなら私たちは意識とは何かさえ知らないからだ。それには何か生得的な価値があるのか?一部の人間は、他の人間の人間性や想定される価値を、気まぐれで完全に無視する傾向があるように見える。
この問いはおそらく永遠に個人ごとに答えられ、決してコンセンサスを得られない運命にある。私の友人はホッキョクグマを見て、自分が愛すればクマも自分を愛してくれると思っている。彼女は動物を愛しているから、動物も彼女を愛するだろう——とても人間的な考えだ。私がホッキョクグマを見るとき、それは生きたいという動機以外は考えない、魂のない殺戮マシンに見える。妻はAlexaに「お願い」と「ありがとう」を言う。彼女はまるで他の人間に対するように、それに配慮する。ロボットが私に今日の残りの予定を尋ねるとき、私はJiraのエピックが「進行中」から「完了」へと滑り落ち、Amazonのプロダクトマネージャーがちっぽけな悪魔の翼を手に入れようと絵文字の紙吹雪を送る様子を思い描く。
結局のところ、彼らが意識を持っているかどうかは本当に重要ではない。私たちは常に、最近何をしてくれたかしか気にしない。それはほとんどの人間関係についてほとんどの人間が考えることでもある。誰かが無生物に人間のような意識を与えたという認識は、あるCEOのベッドポストにまた一つ刻みをつける以上の重要性はほとんどない。
- breuleux
私はますます、「意識」とは「私たち人間が持っているあれ……わかるでしょ……あなたも持ってるでしょ!」以上のものではないと感じている。そして、それをより一般的な原理に高めようとする試みは失敗する運命にある。確かに、私たちは豊かな進化の歴史を共有しているので、他の生き物に簡単に拡張できるが、それを超えると……
AIに関して言えば、彼らが持っているものは重要な点で類似しているが、重要な点で和解できないほど異なっていると思う。彼らは意識に向かって直線的に進んでいるわけでもない。なぜなら、そうする理由がないからだ。彼らは独自のことをしており、たまたま似た出力を生み出している。これは価値の問題だ。私たちは意識を評価する。なぜなら自分自身を評価し、自分の出力を評価するからだ。もし私たちが知っている意識が、宇宙的または長期的な重要性を持たない単なる実装の詳細に過ぎないことが判明したら、AIが意識を持つかどうかに関わらず、私たちは意識がそもそもなぜ価値があるのかを説明するという課題に取り組まなければならない。
私が主張するのは、私たちが生命、意識、苦しむ能力を評価する理由は常に恣意的であり、人間の経験の唯一性に大きく依存していたということだ。それは、人間の能力を検査可能で、再利用可能で、アップグレード可能で、リセット可能なモジュールに分解することに対して、決して堅牢ではなかった。あるいは、愛について書くことと愛を感じることのように、これまで相関していると考えられていた能力の根本的な分離、そして他の多くのこと……
- SAI_Peregrinus
質問1:AIは意識を持っていると思いますか?
わからない。私は自分が意識と定義するものを経験しているが、他の何かが同じ経験をしているかどうかはわからない。
質問2:AIは内部世界を持っていると思いますか?
自明にイエス。潜在空間におけるモデルの現在の状態とコンテキストは、まさにそのような世界だ。私はそれが自分の状態を、人間が自分の神経活動電位を認識する以上に認識しているとは思わない。
質問3:AIが内部世界を持っていると信じるとき、あなたが「AI」と呼んでいるのは具体的にどのような種類のものですか?
トランスフォーマーアーキテクチャを使用し、機能する「コンテキスト」メモリを持つ大規模言語モデル。
質問4:物事の集まりが内部世界を共有できると思いますか?
内部世界と外部存在の区別は明確に定義されていないと思う。無。
たとえ明確に定義されていたとしても、私自身の脳は多数のニューロンで構成されているので、私の内部世界は多くの物事が協調して行動することによって構築されている。単一の素粒子が内部世界を持たない限り、内部世界が物事の集まりの間で共有されない方法はないと思う。
質問5:あなたが言及している種類のものが内部世界を持ち得る種類のものだと確信していますか?
自明にイエス。
質問6:AIが意識を持っていると信じると言うとき、もっと明確に説明すべきだと思いますか?現在の混乱に貢献していると思いますか?
どう言えばいいかわからない……