Открытое письмо Dario: если вы серьёзно, откройте веса
An open letter to Dario: if you mean it, open the weights

Автор обращается к Dario Amodei с призывом поддержать закон, требующий открывать веса всех публичных AI-моделей. По его мнению, любые регулирования, которые предлагает Anthropic, ведут к захвату рынка крупными игроками, тогда как открытые веса сократят финансирование и замедлят прогресс без участия регуляторов. Он напоминает, что Amodei уже шёл на жертвы ради принципов, и указывает на статус PBC, позволяющий поставить миссию выше прибыли.
Любая AI-модель, которую компания предлагает публике, должна быть выпущена с открытыми весами.
- Aurornis
Это бессвязно. Аргумент, похоже, в том, что открытие весов замедлит сбор средств передовыми лабораториями, из-за чего у них будет меньше денег, что замедлит прогресс в области ИИ. При этом предполагается, что все лаборатории во всём мире согласятся на такое самоуничтожение и что не появится новых лабораторий, которые продолжат работу.
Нет, серьёзно:
> Как вы знаете, финансирование разработки передовых моделей зависит от оценок, которые предполагают, что веса остаются проприетарными. Изменив это допущение, мы можем сократить деньги, доступные для будущих тренировочных запусков, и замедлить прогресс сразу во всех лабораториях, без того чтобы регулятор что-либо решал.
Это даже не следует логически. Всё зависит от того, что каждая лаборатория в мире согласится уничтожить свои оценки и перестанет конкурировать. Это гораздо более невыполнимая задача, чем всё, о чём просит Dario.
Это также игнорирует возможность появления новых лабораторий, которые используют открытые веса и продолжат ровно с того места, где остановились старые.
Такое ощущение, что я только что прочитал бред человека, который так воодушевился заголовком, что не потрудился подумать, состоятелен ли его аргумент.
- tristanj
Автор не вложил ни капли рациональной мысли. Если Anthropic юридически обяжут открывать веса любой публично доступной модели, их логичным ответом будет просто перестать предлагать публичные модели. Anthropic в любом случае получает большую часть выручки от корпоративных соглашений. Предоставление публичных моделей или публичного доступа к своим моделям — это их вторичный бизнес. Они могут прекратить это в любой момент. Публичный доступ к их моделям (по субсидированным ценам) причинил им столько косвенного вреда и финансовых издержек, что они вполне обоснованно могут прекратить предоставлять доступ.
Anthropic уже показала, что вполне комфортно чувствует себя, удерживая модели от публики. Mythos существует уже, что, полгода, и публичного релиза так и не было. Доступ есть только у избранных, кого благословила Anthropic.
Принуждение к прозрачности публичных моделей лишь ускорит приватизацию доступа к этим моделям. Вы не хотите жить в таком мире.
- jsnell
> Любая модель ИИ, которую компания предлагает публике, должна быть выпущена с открытыми весами.
Очевидным результатом этого плана стало бы то, что передовые модели вообще не выпускались бы для публики. Это был бы потрясающе плохой исход. Модели, доступные публике, застопорились бы (нет капитала, нет доступа к токенам передовых моделей для дистилляции), тогда как внутренние модели продолжали бы улучшаться прежними темпами, использовались бы внутри компаний и в конечном итоге съели бы всю экономику.
- throwaw12
Я очень скептически отношусь к этим трём лицам американских ИИ-лабораторий: Dario, Sam и Elon.
Они пытаются не дать всем остальным догнать их или же они наткнулись на какое-то препятствие, мешающее улучшать модели дальше?
Но, по моему мнению, они не пытаются помочь человечеству.
- bryan0
Dario был довольно ясен и последователен в том, что:
1. Безопасность моделей ИИ — самое важное.
2. Открытые веса снижают безопасность моделей.
Так что маловероятно, что это предложение будет хорошо принято.