Коалиция ученых и юристов обвинила Anthropic в лицемерии накануне IPO

"Anthropic Is Not a Safe AI Company" – Coalition Challenges Anthropic Safety

Широкая коалиция ученых, юристов и технолидеров подписала заявление о том, что Anthropic не является безопасной AI-компанией, — аккурат перед ее IPO. В обсуждении на Hacker News спорят о лоббизме Anthropic против открытых моделей, о ее лицемерии и о том, действительно ли кто-то в компании верит в катастрофические риски AI или это лишь удачный маркетинг.

«Люди в этой коалиции не согласны почти ни в чем, но все мы видим опасность компании, которая убеждает себя, что ее собственное доминирование — это высшее благо».
  1. neya

    Anthropic активно лоббирует и вкладывает миллионы в лоббирование. Единственная компания, которая это делает. И их повестка всегда была направлена против open source моделей, потому что они знают, что не смогут выиграть эту войну. Не случайно утечки Дженсена были идеально рассчитаны прямо перед IPO Anthropic. Дженсен был ярым сторонником open weight моделей.

    Они также далеки от заботы о чьей-либо приватности и были пойманы на слежке за своими пользователями, так что..

  2. gensym

    Интересно отметить, что в списке есть как известные думеры, так и известные анти-думеры. Единственное, в чём они могут сойтись, — это то, что Anthropic не ведёт себя честно или ответственно. С этим трудно поспорить, даже если воспринимать собственные заявления Ant за чистую монету.

  3. atleastoptimal

    Anthropic заботится о безопасности ИИ лишь постольку, поскольку это подтверждает их уже существующие убеждения о разрешимости рисков ИИ. Очень легко измерить, поможет ли модель кому-то создать новый патоген, гораздо сложнее определить, разрушит ли само существование трансформативного ИИ гражданское общество или облегчит ли установление абсолютного деспотизма. Последнее требует решений, которые снижают их потенциальную рыночную капитализацию, а значит, вряд ли будут приняты.

  4. AshotSanamyan

    Им нужно быть безопасными или всем остальным нужно быть в безопасности от Anthropic?

    Я думаю, есть огромная разница в том, какая сторона должна быть в большей безопасности: сам ИИ или все, кто использует ИИ.

  5. tim333

    Вполне возможно, что Дарио и Anthropic искренни в том, что считают ASI опасным и что лучший результат — это когда кто-то сознательный в вопросах безопасности доберётся туда первым, а не окажется под контролем какого-нибудь тоталитарного правительства, или парня, который вскидывает руку в нацистском приветствии, или типа, известного своей скользкостью.

    Приводимые доказательства их небезопасности:

    - RSI — это то, что им нужно сделать, чтобы прийти первыми

    - продажа себя как безопасных — в общем-то, чего и следовало ожидать

    - лоббирование — я не в курсе деталей по этому пункту

    Я, вероятно, доверяю им больше, чем XAi или OpenAI, но меньше, чем Google. Не знаю.

Ещё за этот день

2026-11-18