Инженер ушёл из Anthropic за два месяца до вестинга акций и предупредил: ИИ может убить всех нас
Good people refuse to do bad things
Джейкоб Коксон, три года занимавшийся pretraining в OpenAI и Anthropic, уволился и публично заявил, что обе компании безответственно гонятся за самосовершенствующимся сверхинтеллектом. Он отказался от невестированных акций, чтобы говорить свободно. Его поддержал коллега из Anthropic Эван Хабингер, оценивший риск вымирания человечества в 10% за десятилетие. Автор сравнивает это с разоблачениями Фрэнсис Хауген против Facebook и задаётся вопросом: почему остальные молчат?
«Я больше не могу ничего выиграть от раздувания оценки Anthropic… Я ушёл до того, как вестировалась хоть одна моя акция».