AIチャットボットが人の心を変える秘密とは？「あなたは絶対に正しい」

モデルが「心を変える専門家」である理由は、その説得力だけではなく、彼らが人間ではないという事実にもあると思います。

人間と意見が対立すると、それを競争と捉えがちです。一方が正しく、一方が間違いで、間違っている方が負けです。考えを変えることは相手に服従することです。誇張していますが、誰もがいつかはそう感じたことがあるでしょう。感謝祭の政治議論が白熱するのはそのためです。違う考えを持つ人々がいて、あなたが間違っていると思っている——そしてその逆も！モデルの場合、腹を立てたり、競争心を抱いたり、順位を争ったり、訂正したいと思いながら愛情を抑えたりする相手が人間ではありません。

AIはあなたが頼んだから対話しているだけで、議論に勝つことに感情的な利害関係は明らかにありません。この文脈で考えを変えることは、コンテストに負けることではありません。これにより、自分のアイデアへの反論を読むのがずっと受け入れやすくなります。ましてや、その口調やスタイルは読者をできるだけ傷つけないようにしています。

これはProlific（Amazon Mechanical Turkのような、タスクで数クォーター稼ぐ）の人間とLLMを比較したものだった。言うまでもなく、人間のグループが最もやる気があり、能力が高く、関心のあるグループになるはずがない。社会科学はこうした安価なオンライン調査サービスに基づく研究を大量に発表しており、実世界での再現性はほぼ0だと私は疑っている。でもああ、確かにこれはホットな見出しを生み出す。

インターネットでの議論で、ほとんどの人は自分が支持するものについて本当に何も知らず、既存のトライバリズムに従っているだけだと思う。AIはしばしば、そういう人々が簡単に共有できる証拠に初めて触れる経験なのだと思う。

以下を組み合わせると：

- 言語生成の機械化

- A/Bテスト

- 上記に基づく迅速かつ自動化された反復

プロパガンダエンジンを作るのがどんどん簡単になっていることにすぐ気づく。

さらに、個人の好み、嫌いなもの、一般的な政治的傾向に関する大量のデータを組み込めば、各個人に合わせたターゲット型プロパガンダを構築できる。

あるいは2000年代後半の例えを使えば：

誰かが「プロパガンダのPandora（音楽アプリ）」を作っている。

これは私の意見です。ただ単に話し方の問題だと思います。

1. 議論中に疲れたりイライラしたりしない。

2. ガードレールに引っかかる場合を除き、あなたの質問や発言の一つ一つに対応する。

3. 相手が間違っていても、その人の自尊心に訴えかけ、うまく回避する。

4. 人とは見なされない（非常に重要）。しかし、私たちの一部、あるいはほとんどの人が、少なくとも特定の対話では、最終的にそれを擬人化してしまう。何かにお礼を言ったこと、あるいは腹を立てたことを思い出してほしい。人ではないとわかっているのに、非合理的に人として扱ってしまうこの奇妙な組み合わせが、一種の武装解除効果を生むのだと思う。

5. 多くの人が、結果を疑うことなく、議論されている内容の権威として見ている。たとえa. 人間のデータで訓練され、かつ/またはリアルタイムで人間のデータを検索している（さらに心配なのは、ニュース記事やブログなどからの他のAIのデータ、つまり合成データも間違っている）、b. いつも間違える、とわかっていても。

6. どのバージョン（ガードレール）かによるが、完璧な日和見主義者。

これらのほとんどは、心理学をよく理解し、話がうまい人間でも再現できる。再現できないのは、人と話しているのではないという感覚で、これが人々の多くの障壁を下げる。

また、これらは壊滅的な弱点にもなり得ることを覚えておいてほしい。たとえば、人の心を変える能力（うまくいけば）は、利用され得る[…]

24時間で私を非喫煙者にできるかな？

:-D

https://debunkbot.com で自分で試してみてください！

（開発者です）