Anthropic дала METR доступ к своим системам, как сотрудникам
An update on independent evaluators
Anthropic предоставила некоммерческой организации METR доступ к внутренним инструментам и системам, аналогичный доступу собственных команд по оценке рисков. METR сможет публиковать результаты проверок без права вето со стороны Anthropic, хотя компания может требовать редактирования узких категорий информации. Это часть трёхуровневой системы доступа, к которой также привлечены SecureBio, Accenture и Faculty. Цель — закрыть разрыв между пониманием рисков у внешних оценщиков и самой компании.
Мы добровольно привлекаем внешних оценщиков и считаем, что каждая передовая AI-компания должна делать то же самое.
- stratos123
Что ж, хорошо, что они не совсем забыли, что We Must Pace The Frontier когда-то существовал, хотя OpenAI, похоже, не собирается присоединяться. Кое-что, что я заметил:
- они всё ещё используют тревожно точный термин "employee-like access", который может означать что угодно, вместо, например, "employee-level". Аналогично, оценщики получают инструменты "roughly on par" (?) с теми, что используют настоящие сотрудники.
- они могут редактировать секреты из отчётов METR, но в остальном METR свободен публиковать и разоблачать. Выглядит нормально.
- у них будет отдельный специальный оценщик именно для рисков биологического оружия
- lukaswthoms
Ощущается как хорошая вещь, чтобы дать апдейт прямо перед запуском новой версии Fable.
- iugtmkbdfil834
Что ж, было приятно ненадолго иметь рабочие модели. Жаль, что это продлилось недолго.