生成AIへの信頼が高い人ほど、批判的思考は働かなくなる
The Impact of Generative AI on Critical Thinking: Self-Reported (2025)
生成AIの利用と批判的思考の関係を自己申告で調べた2025年の研究をめぐるHacker Newsの議論。GenAIへの自信が高いほど批判的思考は減り、自己への自信が高いほど増えるという結果に対し、単なるDunning-Kruger効果ではないかとの指摘が上がる。一方で、LLMと真剣に向き合う人ほど鋭く考えているという反論や、AIに思考を外注して「AIがこう言った」で済ませる同僚が増えたという体験談も交わされた。
生成AIへの信頼が高いほど批判的思考は少なく、自己への信頼が高いほど批判的思考は多い——それはただのDunning-Kruger効果にすぎない。
HNでの議論
53- zomtorg
もっと大きな問題は、学ぶためのプロセスを飛ばしてしまうことだと思う。個人的には、何かに何時間も詰まって必死に解こうとしているときに一番多くを学ぶのだけど、AIがすぐに答えを出してくれるとその全てが失われてしまう。
気づかないうちに学びが減っているだけで、より多くのことをこなせてしまう。
- hoppp
人間は昔から批判的思考が苦手だった。それは練習を要する高次の認知スキルだからね。
それが外注できるようになった今、ほとんど持っていなかったこの能力を、我々はゆっくりと失っていくだろう。
- hazrmard
これが私の受け取った要点だ：
著者らは約300人の作業者が約1000のタスクを行うのを分析した。批判的思考を使ったかどうか[はい/いいえ]の自己申告による指標と、タスクを行う際の認知的努力の見積もりを収集した。著者らはまた、作業者が自分自身でタスクを行うこと、あるいはAIがタスクを行うことに対する自信も測定した。
わかったこと：AIがタスクをできると確信している人は、タスクを簡単だと思っていても、批判的思考をあまり使わないと報告する。自分でタスクを行い、AIの回答を評価することに自信がある人は、タスクをより難しいと思っていても、批判的思考をより多く使う。
この論文が言っているのはこうだと思う：ドメインの専門性が低い（つまり自信が低い）ことと、制限のないAIツールが組み合わさると、人間をループから排除してしまう。その結果として訪れるのは、より優れた自動化か、あるいは信頼できないシステムだ。我々はこの曖昧さを解消する必要がある。
問題はこうだ：ドメインの専門性が低い場合に、批判的思考を強制する仕組みとして、より制限されたAIツールを組み合わせるべきなのだろうか？学校や職場がAIを制限して、学生や新入社員が高いドメイン専門性の水準に到達できるようにするのは正しいことなのだろうか？
- kenferry
何かを見落としているのか、それともこの研究の意義が私にはわからないのか、どちらかだ。
「批判的思考」の量は、要するに監視の量ではないのか？興味深いのは、監視の量が不適切で、悪い結果に対する過信を招く場合（あるいは監視が多すぎて効率を欠く場合）だ。
この論文は結果や正しさについて全く論じておらず、批判的思考の量だけを扱っているように見える。
- oceansky
自己認識と実際のパフォーマンスの間にはしばしば大きな隔たりがある。これが実際に測定したときに追跡できるのか気になる。
いずれにせよ、自分自身への自信はほとんど測定されておらず、自己申告がせいぜいできる精一杯のことだろう。