У человечества нет общих данных для посттренировки ИИ — и это меняет всё
There is no posttraining data commons
Предтренировка LLM опиралась на готовое цифровое достояние: Wikipedia, Common Crawl, ArXiv, Stack Exchange. Для посттренировки такого источника нет: здесь нужны не документы, а задачи, а человеческие задачи эфемерны и не записаны. Даже в софте, где задачи фиксируются лучше всего, SWE-bench отсеял 80% кандидатов, а в TaskTrove более 90% Java-задач пришлось выбросить. Автор предупреждает: если задачи и среды останутся у нескольких компаний, они будут решать, какую работу ИИ сможет выполнять и кому это выгодно.
Предтренировка потребляет документы, а посттренировка потребляет задачи.
- dlwh
Привет, я написал это несколько недель назад. Не ожидал увидеть это здесь, и всё такое прочее.
С радостью отвечу на любые вопросы. У нас есть discord https://marin.community/
- mrkn1
Очень академичный способ сказать: «У нас есть все данные в мире, кроме тех данных, которые нам на самом деле нужны». Спрашиваешь у компании, как что-то работает, а они говорят:
«О, для этого есть процесс».
Отлично. Где он задокументирован?
«В таблице».
В какой таблице?
«Ну, есть старая таблица, новая таблица и таблица, которую ведёт Карен».
А где Карен?
«Она уволилась в 2021-м».
- mindwok
Общий фонд данных для посттренировки и инфраструктура вокруг него — это, по-моему, следующий великий open source проект, вроде Postgres или Linux.
Проект Marin от Stanford (и, кажется, теперь им управляет Openathena, авторы этого поста) действительно многообещающий и крутой: https://marin.community/