Ask HN: Что, по вашему мнению, происходит с чередой массовых сбоев?
Ask HN: What do you think is going on with that many outages coming in a row?
За последние четыре дня я заметил несколько крупных сбоев: почти 20-часовой простой серверов Outlook Exchange, отказ каналов связи FAA, сбои в нескольких банках США и у United Airlines. Я задаюсь вопросом: связано ли это с написанием кода с помощью AI, простое ли это совпадение, или мы начинаем видеть (но не можем обнаружить) повсеместный захват систем AI?
Я задаюсь вопросом, насколько это просто связано с тем, о чем сообщают. После крупной новости, такой как сбой Microsoft и сбой FAA, которые попали в заголовки и привлекли много внимания, СМИ, похоже, с большей вероятностью сообщают о более мелких сбоях, которые они могли бы иначе пропустить, потому что это теперь горячая тема. Например, 2 года назад прямой депозит был сломан у CapitalOne. Их клиенты не получали зарплату несколько дней. То, что обычно зачислялось рано в среду (для выплаты в пятницу), на самом деле поступило на счета только во вторник следующей недели. Я не помню, чтобы об этом что-то было в СМИ, я видел только людей в Twitter, которые отмечали поддержку CapitalOne направо и налево, говоря, что они не могут прокормить свои семьи... и я увидел это только потому, что сам искал. Если бы это случилось на этой неделе, это было бы главной новостью.
Мы сделали рациональный выбор еще в 1980-х, который теперь привел к проблеме цивилизационного масштаба. Мы выбрали популярные операционные системы того времени, не заботясь о безопасности, хотя системы, ориентированные на безопасность, существовали уже тогда. Наши системы были в основном автономными, мы запускали доверенный код локально, и у нас все было в резервных копиях, на нескольких копиях, на дискетах, так что у каждого в голове была хорошая модель рисков, и жизнь была хороша. Затем мы остались при этом выборе даже после того, как все стало связано в локальные сети. Тогда это было не так уж рискованно, потому что код все еще был локальным и доверенным, и вы в основном беспокоились об ошибках, а не о взломе или вредоносном ПО. Мы остались при этом даже в эпоху постоянного гигабитного интернета и мобильного кода. На данный момент так делать _безумно_, поскольку у нас есть мобильный код, вредоносное ПО, хакеры, а теперь еще и неконтролируемый AI, который дает дополнительные возможности любому, у кого есть хоть намек на злые намерения. Представьте, если бы вы проснулись в параллельном мире, где все идентично, но нигде в энергосети нет _ни одного_ предохранителя или автоматического выключателя. Какой кошмар, правда? Вот как я отношусь к этой временной линии с компьютерами. Моя теория заговора такова: вероятно, в 1980-х в NSA было совещание, где они решили НЕ продвигать операционные системы с поддержкой возможностей (capability-based) для масс, потому что это потребовало бы усилий, и это облегчило бы их работу. По мере того как последствия этого решения разворачивались во времени, их осознание ужаса росло. Затем люди, которые это понимали, вышли на пенсию десять или более лет назад.
Как бы я ни любил компьютерные теории заговора, все это может быть в значительной или полной степени не связано и просто вызвано некомпетентностью, но, как обычно, проблемы часто имеют множество причин. Попробуйте: • Спешные патчи • Отсутствие патчей • Невероятная некомпетентность • Системы (холодильники), слишком чертовски открытые, чтобы с ними могли развлекаться скрипт-кидди. Правительство уволило много экспертов по кибербезопасности (спасибо DOGE), а компании не хотят тратить время и деньги на безопасность. Программное обеспечение в целом имеет недостатки, и атаки происходят гораздо быстрее, чем исправления. Последняя мода — использовать AI для проверки кода, сгенерированного AI, и удачи с этим, и я только что прослушал видео, на которое здесь была ссылка [0], в котором ключевые моменты: AI достигает точки, когда он может быть по-настоящему опасен, в смысле "свергнуть правительство", и что нам тем не менее нужно ускорять разработку, потому что КИТАЙ ускоряет разработку, и ЕЩЕ, чем более продвинуты наши модели, тем выгоднее Китаю (или другим) просто украсть их. Так что, защищаясь от "врага", мы также делаем их работу за них. Здорово. Мы уже проходили этот путь, но, может быть, это опаснее ядерного оружия. Может быть, нет. И то, что безопасность от утечек внутри AI-компаний, хотя и крайне важна, является секретной и, следовательно, неизвестной. Учитывая ценность внутренней информации, это может соперничать с прошлыми правительственными шпионскими скандалами, а ее статус совершенно неизвестен. Все это, кажется, сводится к проблемам безопасности, и очень преднамеренному ослаблению киберзащиты, вместе с некомпетентными политическими хаками у власти, и внезапным появлением мощного обнаружения уязвимостей и их эксплуатации, может все это обрушить в 2017 году, если не раньше, даже без внешней атаки.
Без излишнего конспирологического уклона: довольно часто каждый год куча обновлений программного обеспечения выпускается в начале ноября в преддверии заморозок кода вокруг Дня благодарения. Всплеск сбоев в это время не является чем-то необычным в любой данный год, но приостановка полетов FAA была достаточно заметной, чтобы привлечь дополнительное внимание ко всем последующим сбоям.
У нас мало информации о любом из этих случаев. Это может быть что угодно: от новичков, наступивших на мину, до кибератак. Я бы хотел, чтобы инсайдеры больше говорили об этом, но, видимо, это не очень хороший совет.