Рост критических уязвимостей в 3.5 раза после выхода Claude Mythos Preview

Одна из главных различий между взглядами Амодей и Хэгсета заключается в том, что Хэгсет заявил, что в их мире не проводится различия между «оборонительными» и «наступательными» возможностями.

Другими словами, система противоракетной обороны эквивалентна наступательной.

Я считаю, что применение этой логики к программному обеспечению — ошибка. Многие коммерческие продукты используют open-source библиотеки под капотом, и хотя крупные корпорации могут иметь доступ к Mythos/Fable/gpt 5.6, у maintainers open-source библиотек такого доступа обычно нет. Это делает их уязвимыми для иностранных противников, у которых такой доступ есть. Атакующим тогда не нужны возможности уровня Mythos, им достаточно просто превзойти то, что используют maintainers.

Что означает, что решение Anthropic ограничить исследования безопасности даже для Sonnet делает этот разрыв (и, следовательно, возможности для атакующих) ещё больше.

Я говорю это как разработчик, который хочет выпустить некоторые свои внутренние библиотеки в open source. Риск сейчас в том, что я открою свои собственные продукты (которые используют эти библиотеки) для сканеров уязвимостей, не имея при этом таких методов обнаружения сам. Поэтому сейчас безопаснее не выпускать их и держать внутри, чем рисковать увеличением собственных рисков атаки.

Надеюсь, мы в конце концов поймём, что программное обеспечение не эквивалентно противоракетной обороне — написание безопасного кода отличается от атаки на чужой.