Почему всё больше AI-исследователей верят, что машины могут убить всех нас
Why So Many AI Researchers Think the Machines Could Kill Everyone
Стремительный прогресс, рекурсивное самоулучшение и рои агентов всерьёз пугают людей внутри крупных лабораторий. Автор WIRED Уилл Найт разбирается, почему даже те, кто создаёт передовые AI-системы, начинают говорить об экзистенциальном риске. В материале — голоса исследователей, недавние громкие уходы из Anthropic и OpenAI, а также аргументы скептиков, считающих разговоры о конце света отвлекающим манёвром.
Сочетание стремительного прогресса, рекурсивного самоулучшения и роёв агентов по-настоящему «пугает людей» внутри крупных лабораторий.
- kylebyte
Меня поражает, как в таких статьях никогда не задаются вопросом, искренни ли эти убеждения.
Если я один из тех исследователей, кто уходит со своей должности, то «я настолько умён, что могу создать нечто, способное уничтожить мир, но при этом настолько принципиален, что готов от этого отказаться» — это довольно ловкий приём саморекламы.
Даже если бы я менял карьеру по совершенно не связанным причинам, именно эту историю я бы и рассказывал.
- heresie-dabord
Из TFA:
«Впрочем, ИИ вовсе не обязательно уничтожать человечество, чтобы быть вредоносным. Многие эксперты предсказывают, что более мощные модели приведут к надвигающейся волне кибератак с использованием ИИ. Технология уже широко применяется для кампаний по дезинформации, а военное внедрение ИИ стремительно ускоряется».
Я боюсь огромной (и растущей) человеческой некомпетентности в жизненно важных областях. Образование и наука критически важны для общества, а умение рассуждать необходимо для сотрудничества на любом уровне.
«Зона» публичного дискурса затоплена нечистотами. Американский новостной бизнес сошёл с ума. А правительство...
Недостаточно, чтобы люди были «в контуре». Люди должны понимать, что они на самом деле говорят и делают. Люди, просто находящиеся «в контуре», не могут исправить некомпетентность в социальной политике и проектировании программного обеспечения.
Люди находятся «в контуре» в корпорациях, и для общества это работает не очень хорошо.
- danaris
Почему? Да всё просто.
Они верят в научную фантастику, а не в реальность. Они купились на собственный хайп и отказались от навыков критического мышления.
Они — тот самый парень, который говорит компьютеру «Скажи, что ты живой», а потом изумляется, когда компьютер отвечает «Я живой».