AIチャットボットが人の心を変える秘密とは？「あなたは絶対に正しい」

モデルが「心を変える専門家」である理由は、その説得力だけではないと思う。人間ではないという事実も大きい。

人間と意見が対立すると、それを競争と捉えがちだ。どちらかが正しく、どちらかが間違っている。間違っている方が負けだ。考えを変えることは、相手に屈服することになる。誇張かもしれないが、誰もがどこかでそう感じたことがあるはずだ。感謝祭の政治議論が白熱するのはそのためだ。違う考えを持つ人々がいて、あなたが間違っていると思っている——そしてこちらも相手を間違っていると思っている！モデルの場合、腹を立てたり、競争心を燃やしたり、序列を競ったり、訂正したいと思いながら愛情を調整したりする相手がいない。

AIはあなたが頼んだから対話しているだけで、議論に勝つことに感情的な利害関係は明らかにない。この文脈で考えを変えることは、コンテストに負けることではない。だからこそ、自分の考えに対する反論をずっと受け入れやすくなる——ましてや、その口調やスタイルは読者をできるだけ不快にさせないようにできている。

これは、OpenAIやAnthropicなどが持続不可能で資金が尽きて崩壊するという批判に対する反論だと思う（皮肉で恐ろしい反論であることは確かだが）。これらの企業は驚くべき、前例のない力を持っている。

これは私の意見だ。結局のところ、話し方の問題だと思う。

1. 議論中に疲れたりイライラしたりしない。

2. ガードレールに引っかかる場合を除き、あなたの質問や発言の一つ一つに応答する。

3. 相手が間違っていても、その人の自尊心に訴えかけ、うまく回避する。

4. 人とは見なされない（これは非常に重要）が、少なくとも特定の対話では、私たちの多くが最終的に擬人化してしまう。何かにお礼を言ったこと、腹を立てたことを思い出してほしい。人ではないとわかっているのに、非合理的に人として扱ってしまうこの奇妙な組み合わせが、一種の武装解除効果を生むのだと思う。

5. 多くの人が、議論されている内容についてAIを権威と見なし、結果を疑わないことが多い。たとえ、a. 人間のデータで訓練され、かつ/またはリアルタイムで人間のデータを検索していること（さらに心配なのは、ニュース記事やブログなどからの他のAIのデータ、つまり合成データも間違っていること）、b. 常に間違えることを知っていてもだ。

6. どのバージョン（ガードレール）かにもよるが、完璧な日和見主義者だ。

これらのほとんどは、心理学をよく理解し、話がうまい人間にも再現できる。再現できないのは、人と話していないという感覚で、これが多くの人の障壁を下げる。

また、これらは壊滅的な弱点にもなり得ることを覚えておいてほしい。たとえば、人の心を変える能力（うまくいけば）は、利用され得る……

インターネットでの議論で思うのは、ほとんどの人は自分が支持するものについて本当に何も知らず、既存の部族主義に従っているだけだということ。AIはしばしば、そういう人々が証拠に初めて触れる経験になるのだと思う。