全米のシステム障害、原因はAIが見つけた脆弱性の「一斉パッチ」だった
Bank CEOs, NSA Tell Congress That AI-Driven Patches Are Behind Outages

全米で航空便の停止や銀行口座へのアクセス不能、NSAの機密通信網の停止などが相次いだ障害は、サイバー攻撃ではなくAIが特定した脆弱性を急いで修正したことが原因だと、銀行CEOらとNSAが議会に説明した。強力なAIモデルが大量の脆弱性を洗い出す一方、攻撃側も同等のツールを持つため、修正を一斉に押し込んだ結果、レガシーシステムが処理能力を超えてしまったという。
「これらのモデルは巨大な脆弱性を特定しており、それが直ちにパッチを当てる緊急性を高めている。彼らはシステムが想定していた以上に多くのパッチを一度に押し込もうとしているのです」
HNでの議論
49- skeledrew
> AI主導のパッチ
これは非常に曖昧でクリックベイト的だ。このタイトルだけを読むと、少なくとも私には、AIパッチが障害の背後にあるという印象を受ける。内容を読むと、AIからの脆弱性に関するフィードバックを受けてレガシーシステムに急いでパッチを適用したことが障害の原因であり、実際のパッチ適用にAIがどれだけ使われたかについては全く言及がない。前者はAIをパッチ適用に使うことを明確に非難し、後者は急いだ修正を非難している。
また、これらすべての障害が突然これほど短い期間に発生しているのはかなり驚きだ。まるでY2kバグのように時間に基づく何かがあったかのようだが、誰も手がかりを持っていなかった。
- bg24
多くの失敗する組織について、私は次のように見ている。
- 以前はパッチ1つにつき1ヶ月かかっていた。ほとんど手動プロセスだった。
- AIを使い、週2回のパッチ適用プロセスを実装した。同じ古いプロセスだ。しっかりした検証は欠けている。ロールバックは手動だ。
- paul_h
AI主導のパッチは、ここではほぼ直接の原因かもしれない。根本原因は、6週間の間に強化されたインフラへのAI攻撃だろう。自律的で、脆弱性に対して迅速に行動し、ニュース解禁日より前にパッチからリバースエンジニアリングされたものも含む。CEOへの課題は、展開の影響を十分にテストしつつ、開発と運用がどれだけ迅速に対応できるようにするかだ。
- bagacrap
> 彼らは一度に大量のパッチを押し通そうとしている — システムが設計された以上に。
どうやってシステムが特定のパッチレート向けに設計されるというのか?
- nixosbestos
みんな記事を、あるいは最初の数文を読んでいるのか?
> ウォール街の幹部とNSAは議会議員に対し、今週の広範な技術障害は人工知能によって特定された脆弱性を修正しようとした試みが原因だと伝えた、と私的な会話に詳しい3人の情報筋が述べた。
つまり、AIが発見した脆弱性に対応して、おそらく急いだパッチ/パッチ適用だ。私が見る限り、「AIが作成したパッチ」についてはこの記事では実際には言及されていない。(それが真実かどうかは推測しないが、「AIパッチは悪い」と飛びつくコメントがいくつかあるのは奇妙だ。)