Брайан Кантрилл: страх перед ИИ распространяется как вирус
The Contagion of Fear
Брайан Кантрилл вспоминает студенческую «шутку» с ложным сообщением о компьютерном вирусе, чтобы провести параллель с заявлениями об ИИ. Он цитирует бывшего сотрудника Anthropic Джейкоба Коксона и руководителя направления Alignment Science в Anthropic Эвана Хабингера, которые оценили вероятность того, что ИИ «убьёт всех людей», как «>10% в следующем десятилетии». Кантрилл утверждает, что такие экстраординарные заявления требуют экстраординарных доказательств, а эксперты обязаны быть осмотрительными, особенно когда бьют тревогу.
Эти жуткие заявления нагло бьют по домашнему очагу, и, учитывая очевидную важность ИИ, неудивительно, что они вырвались в мейнстрим, где люди задают естественный вопрос: как это могло бы произойти?