Учёные нашли способ искать «чужие» научные идеи, до которых не додумается ни одно сообщество
The alien space of science: Coherent but cognitively unavailable directions
Научный поиск ограничен не только истиной, но и тем, что доступно уму исследователей: многие логичные направления так и не возникают, потому что нет сообщества, соединяющего нужные понятия и методы. Авторы раскладывают статьи на «атомы идей» и обучают две модели — одна оценивает научную состоятельность комбинации, другая — вероятность, что её предложит какое-либо существующее сообщество. Отбирая комбинации максимально связные, но минимально «доступные», метод на 16 068 статьях NeurIPS, ICLR, ICML и NLP-конференций даёт более разнообразные портфели идей, чем передовые LLM, при сопоставимом или лучшем качестве каждой идеи.
Мы целимся в дополнительную область — чужое пространство науки: направления, научно правдоподобные, но маловероятные в распределении существующих исследователей.
- martincsweiss
Соавтор здесь — первая статья из моего постдока принята на основную конференцию NeurIPS.
Мы создали способ сэмплировать разнообразные идеи в машинном обучении — идеи, которые имеют научный смысл, но ни одно существующее исследовательское сообщество не в состоянии их предложить.
Коротко, работает это так:
1. Берём 16 068 статей по LLM (NeurIPS, ICLR, ICML, ACL, EMNLP, с 2017 по 2025) и разбиваем их на 273 «атома идей». Каждая статья и каждая идея-кандидат становится набором атомов.
2. Обучаем модель когерентности: трансформер с 42,8 млн параметров, обученный на статьях как последовательностях атомов. По сути, языковая модель, токенами которой являются идеи.
3. Обучаем модель когнитивной доступности: двойной энкодер, обученный на истории публикаций 39 791 исследователя, который предсказывает, куда каждый человек мог бы правдоподобно двигаться дальше.
4. Используем эти модели для оценки сэмплированных кортежей с помощью reciprocal rank fusion (нам нужны идеи, которые хорошо сочетаются друг с другом, но не являются когнитивно доступными ни для кого).
Мы проверили это разными способами. Один интересный: мы взяли все статьи в конце 2024 года, а затем проверили, какие высокооценённые кортежи появились в статьях 2025 года. Это сработало хорошо — один из примеров — устный доклад на ICLR 2025, который поднимается с 1489-го места только по когерентности до топ-25 из 1,14 млн сэмплов.
Забавный момент: если попросить Claude придумать идею для исследования в ML, она часто оказывается про интерпретируемость. Если затем запустить пайплайн автоисследования с несколькими A100 на этой идее, результат, как правило, оказывается про интерпретируемость в 8 случаях из 10. Наш метод Alien Sampling оставался на […]
- unsupp0rted
Мне это нравится. Моя личная совершенно необоснованная теория состоит в том, что мы когнитивно способны представить менее 1% того, что истинно/верно относительно вселенной, и когнитивно способны понять 1% от этого 1%.
- tauntz
Вчера разошлась довольно похожая концепция, но для игр, а не для науки.
- smallerize
Чёрт, это было то самое killer app для семантических пространств, которого я ждал со времён Word2vec.
- Error6571
Семантически похожие статьи: https://papermatch.me/?q=2603.01092