Исследователь уволился из Anthropic: «Ни OpenAI, ни Anthropic не действуют ответственно»

I resigned from Anthropic today

Джейкоб Коксон, проработавший три года в области pretraining-исследований в OpenAI и Anthropic, объявил об увольнении из Anthropic. Он утверждает, что обе компании «мчатся к самоулучшающемуся сверхинтеллекту» и играют с жизнями людей. Коксон отмечает, что разработчики ИИ в частных разговорах признают смертельную опасность технологии, но продолжают гонку, считая, что иначе будет хуже. Он призывает исследователей задуматься о последствиях и поддерживает временный запрет на улучшение моделей.