世界を支えるのは「気にしている賢い人々」、生成AIがそれを奪いつつある
We Need Smart People Who Give a Shit
Stripeで銀行決済システムに触れた著者は、ACHのような複雑で脆弱な仕組みが「気にしている賢い人々」の不断の努力でかろうじて動いていると指摘する。だが生成AIの登場で、現場を知らない経営陣はその人々をコストと見なし、機械で置き換えようとしている。著者は最近のMicrosoft 365や航空管制、銀行の大規模障害を例に、この傾向がシステム崩壊につながると警告する。
生成AIは賢くないし、何も気にしていない。知性に見えるものは、コモンズから大量に収奪したデータと、出力を望ましい形に寄せる重み付けが生む錯覚にすぎない。