AIは研究の協働を静かに殺す——「Waymo効果」の正体

私はテクノロジー、応用研究、科学の交差点で働いている。

協働の中で実際に起きていることとして気づいたのは、自分の専門外の人々が確信を持って発言する自信が増していることだ。ソフトウェアの経験が限られている人たちが、かなり洗練されているが意図がしばしば的外れな抽象化されたコードを何層にも積み上げ、自分がやっていることは正しいと確信を持って言う。

また、自分の専門分野の人々に疑問を投げかけ、意見に異議を唱える声もずっと多く聞く。そして、彼らがLLMと交わした会話の断片——何らかの議論を考え抜いたもの——としか思えないものを聞く。さらに、欠点について話すと沈黙し、後になって、あなたが言ったことの記憶した断片と、その議論に対するLLMの応答の記憶した断片を組み合わせて戻ってくる。

これは、ずっと多く起きている。人々は協働におけるLLMを真実の源として扱い、多分野の専門家が重みを置くトレードオフを考慮してオープンに議論し、全員が最も受け入れられるアプローチを取るのではなく、自分が進みたいと思う、あるいはバイアスを持っている特定の道や目標に集中するためにLLMを使っている。

こういう人たちとは、もっと協働したくなくなってくる。一日中クロードのテキスト出力に反論して回りたくはない。

AIは極めて有用だが、実際には理解していないのに理解していると思い込むのも極めて容易だ。これはコードでよく当てはまるが、数学や科学の概念などでも同じだ。

この理解不足に気づき、どう向き合うかを正式に訓練されている職業は多くない。

協働の場でのAIの使用はこうした問題を増幅させる。特に、自分が理解していないことに気づいていない場合——専門家や研究者のように概念を教えたり説明したり、柔軟に扱うことを強いられたりすることができない。

自分の理解不足に気づいていれば、速度を落として自分自身に教えることで補える。これは関心のある領域でAIをよりよく活用するために必要だ！

しかし、すべてを同時に手に入れることはできない。AIと共に速度を上げ、効果的に協働し、専門家のように物事を理解することはできない。人間の脳には物理的に不可能だ。

AIは私たちを愚かにしているのだろうか。

AIにSQLクエリで分析を引っ張らせ、数字をはじかせると、もっともらしい正確な数字が出てくる。

しかし疑問を呈すると、「おっしゃる通りです、それは確認していませんでした」と言う。

なぜ疑問を持つべきだとわかったのか？自分でクエリを投げ、自分で計算し、上層部から質問を受けるという摩擦の作業をしたからだ。

若い世代が心配だ。彼らはクロードの結果を素早く出し、人が疑問を呈すると「わかりました、クロードに持ち帰ります」と言う。

おそらく、他人に提示するという摩擦がまだあるから、いずれ自分でチェックすることを学ぶだろう。

そして、私のモデルは過去のものかもしれない。これからは誰もが学校を出たてで（エージェントの）マネージャーになる。彼らはもう作業をしないが、明確な目標を設定し、仕事を検証し、エージェントに責任を負わせる必要があるだろう。

「すべての人間の交流は保存する価値がある」という考えはおそらく正しくなく、Waymoはそれを示している。著者が述べているように、多くの人はUberドライバーとの強制的な雑談を楽しんでいない。異なる背景や視点を持つ人々と交流することは重要だが、タクシー乗車のような強制的な交流が、これまでそうしたものを得ていた場だとは思えない。

問題はどんな技術でも同じだと思う。正しく使えば価値を加え、誤って使えば価値を減らす。

LLMはプロセスを大幅に加速できるが、制御がなければ社会的な「真実の源」になり得る。研究プロセスには明確で根拠のある段階がある。テーマを区切り、資料を探し、適切か評価し、内容を精査し、主題の地図上に位置づける。資料が多ければ知識は増し、最終結果——頭の中のもの、あるいはレポートの形——はより良く構築される。そのためには読み、再読し、考え、つなぎ、関連づけ、結論を出す必要がある。

AIはこれらのステップを人間より速くこなせる。しかし、各段階でチェックせずに、AIに全作業を独自のやり方で任せれば、結論は歪みかねない。何をどうしてほしいかを理解し、それを強制する仕組みを整えれば、結果は異なる——より良く、より信頼できる。忘れないでほしい。それはただのツールにすぎない。

このコメントの英語表現はAIで修正した。自分の考えを明確に表現するほどの流暢さはないが、最終結果は見直している。この場合、動詞の時制を間違えていて、私には明らかだったがAIには理解できず、理解させるのにいくつか指示を出す必要があった。ツールであり、監督なしでは問題を引き起こすが、多くの人にとって世界を広げてくれた。

現在の学術研究プロジェクトでも同じ現象を見ている。研究者と働く上での最良の部分と最悪の部分の両方に火をつけるようなものだ。

第一に、人々に自分の仕事を統合させ標準ツールを使わせるのが間違いなく難しくなっている。私たちのツール用にAIスキルなどを作ることを検討している。説得すべき実際の対象者がその場にいないからだ。LLMが私たちの推奨を反映しなければ、人々は個人的な「悪いアイデアの熊」が捻り出したその場限りのスクリプトに従うだろう。研究ソフトウェアのエラーの多くはエッジケース（スケーリング、数値誤差など）で、「自分のコンピュータでは動く」症候群は文献に蔓延している。この分野は計算再現性の実現で大きく前進したが、最近は再び後退しそうに感じる。

第二に、LLMには行動へのバイアスがあり、ユーザーが報告していることを簡単に埋もれさせてしまう。最近の複数のセミナーで、Q&Aが「Q: この発見の含意は？ A: わかりません、これは結果のレポートを提示しているだけです」に崩壊するのを見た。

人間はまだ主体性を維持し、チャットボットを大局へ導く方法を模索しているようで、レビュー不可能な科学はレビュー不可能なコードと同じくらい起こりうる……しかしプロセスを導く自動化ツールはずっと少ない。

歴史的に、PIは名目上大局を導き、作業を行った主体はレビュープロセスの参加者だった。今や学生は新しい角度からプロジェクトを見なければならず […]

摩擦か摩擦なしかというこの概念は、歴史上のこの時代の重要な特徴の一つだと思う。

私の目には、80年代のパーソナルテクノロジーから、インターネットのUX、アプリプラットフォームの囲い込み、サブスクリプション中心の「所有」に至るまでの流れ全体が、より少ない摩擦を買うことができるという約束を私たち全員に与えてきたように映る。次のデバイスやサブスクリプションが、何らかの形で問題を解決したり、私たちを可能にしたりする。この歴史の流れを見て、未来へと引き延ばすと、摩擦ゼロのユートピア的未来が見える。

摩擦ゼロとは、世界についてどう感じたいかと、そこから得られるものとの間に違いがゼロであること。より力強く、満足し、快適に、あるいは正しく感じること。

摩擦を受け入れる文化の部分は、遅い部分だ——隣人と愚痴を言い合う、庭の草を抜く、相手の車を先に行かせる。これらは、他人や自然の現実と出会う部分だ。助けるツールやフレームワークやガジェットがあるかもしれないが、自分自身の外に不変の何かがあり、それと共に流れる方法を見つけなければならないと知り、受け入れている。

年を取ってきて、ようやく摩擦のない人生を追求することの限界が見え始めた。