検証は知識ではない——科学に必要なのは答えだけではない
Verification Is Not Knowledge: Science needs more than answers
AIが証明や治療法を「正しい」と保証できる時代に、科学の価値は正しさだけで測れるのか。Northwestern大学のJessica Hullmanは、冷戦期に形成された「価値中立の理想」が検証済みの結果を知識と取り違えさせ、批判や説明責任を単なるコストと見なす風潮を生んだと論じる。Terry Taoの思考実験やarXivの著者責任の問題を手がかりに、人間の判断とコミュニティによる批判的検討こそが知識生産の仕組みだと説く。
AIエージェントが科学文献に放たれ、自ら検証し実験的に介入できる姿は、19世紀の科学倫理が待ち望んだ完成形のように見える。
HNでの議論
92- throw0101c
ケプラーが自身のモデルを発表したとき：
* https://en.wikipedia.org/wiki/Kepler%27s_laws_of_planetary_m...
人々はそれがどのように、なぜ機能するのか理解していなかったが、それでも数学が簡単だったのでプトレマイオス（ティコ・ブラーエなど†）の体系からケプラーの体系に乗り換えた。我々が「なぜ」と「どのように」を理解したのは、ずっと後のこと（ニュートン、アインシュタイン）だった。
† https://tofspot.blogspot.com/2013/08/the-great-ptolemaic-sma...
- niemandhier
我々は皆Terry Taoを知っているが、Peter Scholzを知っているか？
フィールズ賞受賞者であり、Taoと同様に現代最も重要な数学者の一人として挙げられている。
Scholzは次のように評されている：
「これまでに行われたすべての研究を正確かつ最もクリーンな方法で取り込み、それに対するエレガントな定式化を見つける——そして、本当に正しい枠組みを見つけたがゆえに、既知の結果をはるかに超えて進む」
ある意味で、この男はAIの補完物であり、単なる証明ではなく理解を生み出す。
おそらく彼こそが未来の数学者にとっての正しいテンプレートだろう。
https://www.quantamagazine.org/peter-scholze-and-the-future-...
- A_D_E_P_T
この記事の視点は、子供の頃の数学の授業を思い出させる。先生は正解だけを求めず、どうやってそこにたどり着いたかを見たがった。絶対的な意味では、正解は私の理解があろうとなかろうと正解だ。しかし、授業の採点はそうではなかった。AIは科学にとって、私の古い電卓が小学校の算数にとってそうだったような存在に近づきつつある——人間よりも速く正確に答えへと飛躍できるのだ。
しかし、問題は検証こそが知識そのものだということだ。そして、重要な問いに答えが出るようになれば、検証者たちがそれを我々に理解できる形で説明してくれるようにもきっとなるだろう。
- wqtz
ああ、認識論か…。今どき、こんなことに関心を持つ学術研究者がいるのだろうか？
アカデミアにいるなら、最近の大きな変化に気づいているだろう。AIによる産業規模の研究生産だ。
助成金は「昔から」量×質で教授に与えられてきた。今では、一部の教授が同じ共著者グループで月に1〜3本の論文を量産している。助成金はすべて彼らに流れる。助成金提供者はただ論文の数を数えているだけだ。
産業革命がアカデミアを襲い、一部の学者は研究の職人的価値を主張するのに忙しく、一方で一部は研究の工場を作っている。
- My_Name
確かに前進する道は、AIで力ずくで得た結果、たとえばある予想が真か偽かという結果を取り、その知識を使って人間の理解を深めることだろう。
何かが真か偽かがわかれば、少なくとも人間がそれを証明または反証しようとして時間を無駄にするのを止め、よりエレガントな証明を見つけたり、真偽の結果が持つ含意を調べたりできるようになる。