Гарри Тан из Y Combinator: американским open-weight лабораториям тоже стоит «дистиллировать» frontier-модели
Garry Tan wants US open-weight AI labs to 'distill' frontier models, too
Глава Y Combinator Гарри Тан призвал не запрещать дистилляцию, а разрешить американским open-weight лабораториям легально обучаться на frontier-моделях. По его мнению, контроль над тем, что клиенты делают с API закрытых моделей, — это перегиб, ведь сами проприетарные лаборатории когда-то без разрешения впитали огромные массивы человеческих знаний. Главный страх Тана — монополия одной компании на передовой AI.
«Кошмарный сценарий, сценарий для AI-думеров — это когда есть всего одна компания. У неё лучший доступ к капиталу. У неё лучшие AI-исследователи. Она вырывается вперёд, и внезапно остаётся одна монолитная компания. И это было бы плохо».
- kelnos
Согласен. Frontier-модели основаны на обучающих данных из тонны работ, защищённых авторским правом. Часть этих работ была получена даже незаконно. Они не могли бы существовать без открытой разработки общих ресурсов. У лабораторий нет ни морального, ни этического права на конечный результат, и другие должны чувствовать себя вправе считать любые навязанные компаниями ограничения на их использование недействительными.
Я не ожидаю, что позиция Тана основана на какой-то реальной моральной правоте, но его вывод верен.
Мне нравится формулировка «нелегальные атаки дистилляции» от старожилов. Ничего нелегального тут нет. Никакой это не аттак. Вам просто не нравится, потому что это угрожает вашей позиции на рынке и бизнес-модели.
- TheJCDenton
> Он также отмечает, что проприетарные AI-лаборатории не спрашивали разрешения, когда высасывали как можно больше человеческих знаний для обучения своих моделей.
Я думаю, это должно лишить морального права говорить, с которого пытается вещать Anthropic. То, что они хотят сделать дистилляцию упорядоченной, ИМХО, справедливо, но делать её незаконной — это очень смело со стороны любой frontier-лаборатории, честно говоря.
- dvt
Я думаю, OpenAI и Anthropic разорятся или, по крайней мере, будут разобраны на части в ближайшие лет пять. Очевидно, что экстремальные затраты на обучение невозможно окупить, так как инференс уже субсидируется.
Также очевидно, что, как указывает Тан, open-weight модели будут (и по сути уже являются) такими же хорошими, как frontier-модели. Всё дело в обвязке, детка. У нас будет две главные развилки и две новые индустрии:
- AI-железо (NVidia/Cerebras/и т.д.), аналог Intel/AMD
- AI-софт (обвязки, ассистенты и т.д.), аналог Microsoft/Apple
Мы уже видели проблеск этого в популярности OpenClaw — проблема в том, что это криво, сложно настроить, нестабильно и очень в духе хакеров. ИМХО, «AI-лаборатории» — вымирающий вид, потому что в самих моделях нет реальных денег, если они становятся товаром, а они уже почти стали.
- consumer451
> По его мнению, истинный сценарий AI-думера — это когда вся огромная мощь frontier AI окажется в руках одного могущественного проприетарного провайдера. «Сценарий кошмара, сценарий думера для AI — это когда есть всего одна компания, — сказал он. — У неё лучший доступ к капиталу. У неё лучшие AI-исследователи. Она вырывается вперёд, и вдруг есть одна компания, которая монолитна. И это было бы плохо.
Ну да, как я, кажется, говорил в предыдущем комментарии, при текущей траектории OpenAI и Anthropic реально перестанут выпускать модели из-за дистилляции и регуляторного давления. Тогда они сами съедят всю интеллектуальную работу, и это будет конец YC.
- nijave
Не юрист, но дистилляция звучит как преобразовательная работа.
То же самое, что Cliff Notes, ИМХО. В любой другой области производства и технологий я могу использовать машину, чтобы построить новую машину, конкурирующую с оригинальной. Должен ли Milwaukee иметь возможность запретить DeWalt использовать их дрель для создания конкурирующей дрели? Должен ли Jetbrains запретить контрибьюторам Eclipse использовать их IDE?
- dofm
Контроль над тем, что пользователи и клиенты делают с API-вызовами к моделям с закрытыми весами, ощущается как ограничение, и здесь есть роль государства — нормализовать тот факт, что доступ к интеллекту, обученному на широкодоступных публичных данных, сам по себе должен быть скорее формой общественного блага, чем чем-то запертым за ограничительными условиями обслуживания.
Я не так уж часто соглашаюсь с этим человеком, но это очень точно сформулировано.
- gr_norm
Общество в целом заплатило за эту технологию: через кражу своей интеллектуальной собственности, через необходимость мириться с разграблением стольких общих ресурсов (цифровых или иных), через взлетевшие цены на энергию и вычислительные устройства и даже просто через обычные инвестиции. Демократизируйте технологию! Как минимум не вставайте на юридический путь, чтобы помешать этому случиться.
- layer8