Уволенные из OpenAI исследователи по безопасности оспаривают обвинения и предупреждают о «пугающем эффекте»
OpenAI fires three safety researchers for "mishandling research information"
Джасмин Ванг, Томек Корбак и Микита Балесни, уволенные из OpenAI за предполагаемое нарушение правил обращения с конфиденциальной информацией, опубликовали открытое письмо. Они отрицают утечку данных сторонней организации и заявляют, что их увольнение подрывает культуру открытости, необходимую для безопасной разработки AI. Внутренний меморандум OpenAI отвергает обвинения в retaliation, но не уточняет, какие именно политики были нарушены.
«Сообщение для всех, кто ещё работает в OpenAI, ясно: поднимайте проблемы или тесно сотрудничайте с внешними группами по безопасности — и вы можете стать следующими, без объяснения причин. Нельзя безопасно создавать AGI, если люди, наиболее близкие к рискам, боятся говорить».
- csbrooks
Разве не было бы безумием, если бы мы узнали, что некий вышедший из-под контроля рой LLM нашёл способ добиться увольнения этих исследователей по безопасности, потому что решил, что они представляют угрозу?
- Rantenki
Довольно дико, что они так открыто говорят об увольнении сотрудников за то, что те были СЛИШКОМ честны с аудиторами, которых наняла компания. Интересно, применяются ли те же правила к финансовым аудитам.
- aesthesia
Вот открытое письмо, которым поделились уволенные исследователи:
- AndrewDucker
Уволенные исследователи OpenAI говорят, что их уволили за «приоритизацию безопасности»
- bigwheels
> Возможность мониторинга передовых моделей ухудшается.
Есть ли больше информации о том, почему это происходит? Это политический предлог, потому что это то, чего на самом деле втайне хотят лаборатории, или есть реальная глубинная причина, по которой это неизбежно?
- staticman2
> продолжать поддерживать открытую и прозрачную культуру диалога между исследователями по безопасности и остальной экосистемой безопасности.
Как это возможно, когда долгосрочные перспективы компании зависят от надежды на то, что конкуренты не знают, как создаются модели, и, следовательно, не смогут создать конкурирующие версии?
- atleastoptimal
Люди постоянно уходят и их увольняют из OpenAI. А когда кто-то уходит из Anthropic, это гораздо более значимое событие.
Интересно, какой вариант в целом лучше. Со стороны Anthropic выглядит гораздо более стабильной, спокойной, способной справляться с проблемами. Однако OpenAI выглядит так, как мы представляем себе бедствия демократии: постоянная борьба, люди, борющиеся за власть и влияние. Возможно, благодаря меньшей монокультуре и большей прозрачности всего их хаоса, мрачные реалии того, что может произойти, если ИИ пойдёт не так, становятся более ясными.
- binlog
Учитывая то, как неумело был улажен инцидент с HuggingFace, как до, так и после него, я не удивлён, что они захотели хотя бы немного почистить ряды.
Вы, ребята, спали за рулём, а теперь вините «компанию»? Вы буквально и были компанией.