AIは「路傍のピクニック」を科学に投げ込んでいる
AI Is Throwing a Roadside Picnic
ストルガツキー兄弟のSF小説『路傍のピクニック』をレンズに、AIが科学にもたらす影響を考察する。OpenAIなどが数学の難問を解き、その発見を大量に投下する一方、学界が処理しきれず混乱が生じている。発見の速度が理解の速度を超え、AIの出力が異星の遺物のようになる日が来るのかを問う。
「証明は安くなり、理解がボトルネックになるだろう」
HNでの議論
48- asimpletune
> この新しい知識は、この分野が処理できる速度をはるかに超えるペースで到着している
それがまさに問題の核心だ。これは知識ではなくデータなんだ。AIは証明について説明することも、それについて問い詰められることも、そのアイデアを発表する講演を組織することもできない。なぜなら、その背後には何の理解もないからだ。
これがTaoがずっと言ってきたことだ。厳密な意味での結果は、決して目標ではなかったのだ。最終的に価値があるのは、（以前は証明を形成するために必要とされた）理解なのだ。
- prodmod
有用性は理解に依存する。たとえそれが、何を求めることが可能かを理解することを意味するとしても。今生成されているものは、実際には不可解な現象から別の不可解な現象への翻訳にすぎない。どちらの場合も、データを支配することはできない。なぜなら、それが何を意味するのか、本当にどこから来るのか、そしてその発見が何を許すのかの限界の始まりさえも分からないからだ。我々は一つのブラックボックスを別のブラックボックスと交換しただけで、依然としてそれを解き明かす必要がある。
- pavel_lishin
ここではTed Chiangの物語「人間科学の進化」の方がはるかに良いメタファーかもしれないと思う。AIが投げ落としているのは（伝えられるところによれば）謎ではなく、ただの答えだ。「ピクニック」では、我々は本当にそれを理解していないが、残されたもののほとんどは役に立つどころか、単に謎めいているか、しばしば危険ですらある。「進化」では、答え（そして答えだけ）と技術が、理解ゼロのままパッケージ化されて到着する。
- https://en.wikipedia.org/wiki/The_Evolution_of_Human_Science
- https://gwern.net/doc/fiction/science-fiction/2000-chiang.pd...
- skybrian
私はこのメタファーの方が好きだ。数学コミュニティは、予期せずして現代の望遠鏡の出力を得ている古代の天文学者の集団のようなものだ。「なぜもう空を見る必要があるのか」とある者は言う。「しかも望遠鏡は我々の所有物ですらない！」
一方、Rubin天文台は毎晩20テラバイトずつ増えるアーカイブを作成しており、誰も本当にそれを心配していない。その量のデータを扱うことは確かに問題だが、それに対処できる科学コミュニティがあれば、持っていて嬉しい問題でもある。数学は予期せずビッグサイエンスになり、科学機器の資金提供者と科学者自身との間により良い関係が必要だ。
科学機器の出力が下手な学術論文のように見えるのは少し混乱させる。もしかしたら、それはもっと生データとして扱われるべきなのかもしれない。形式は理想的ではないが、例えば歴史家はしばしばはるかにひどいものに対処しなければならない。
- m3047
そのメタファーは好きだ。しかしそれが私の心に呼び起こすのは、道端で見つかった「異星人の人工物」であり、「どうやってこれらの精錬された金属が、こんな不自然な形で岩の中に置かれたのか？」というもので、この人工物について多くの議論があった。数年後、それは実際にはスパークプラグであり、上流の鉱山からの廃水によって再鉱化されたものだと判明した。捨てられた物体に作用する異常なプロセスと、信じたい人々。再鉱化プロセスが数百年未満で起こり得るとは誰も思わなかったので、「スパークプラグ」は除外された。