科学の「異星空間」を狙え——AIが人間の盲点にある研究テーマを掘り当てる

共同著者です——ポスドク時代の最初の論文がNeurIPS本会議に採択されました。

私たちは、機械学習において多様なアイデアをサンプリングする手法を構築しました。科学的には筋が通っているのに、既存のどの研究コミュニティも提案する立場にないアイデアです。

簡単に言うと、仕組みはこうです：

1. 16,068本のLLM論文（NeurIPS、ICLR、ICML、ACL、EMNLP、2017年から2025年）を273個の「アイデア原子」に分解します。すべての論文、そしてすべての候補アイデアが、原子の集合になります。

2. Coherence Modelを訓練します：論文を原子の系列として学習させた42.8Mパラメータのtransformerです。要するに、トークンがアイデアである言語モデルです。

3. Cognitive-Availability Modelを訓練します：39,791人の研究者の出版履歴で訓練されたデュアルエンコーダで、各人が次にどこへ進みそうかを予測します。

4. これらのモデルを使って、サンプリングしたタプルをreciprocal rank fusionでスコアリングします（相性の良いアイデアでありながら、誰にとっても認知的に利用可能でないものを求めます）。

私たちはこれをいろいろな方法でテストしました。興味深いものの一つは、2024年末の論文をすべて取り、高スコアのタプルが2025年の論文に現れるかを調べたことです。うまく機能しました——一例はICLR 2025のoral論文で、coherenceだけでは1,489位だったものが、1.14Mサンプルの中でトップ25に入りました。

面白い例：ClaudeにML研究のアイデアを出させると、しばしば解釈可能性に関するものになります。そのアイデアでA100を何台か使ってautoresearchパイプラインを回すと、結果は8/10回で解釈可能性になります。私たちのAlien Sampling手法は[…]に留まりました