AI失業の罠：マルクスとケインズが予見した自動化の矛盾

> 私は、これらの地域的なモラトリアムや、テクノロジー楽観主義者の「さあ作ろう」という熱意について、どう感じればいいのかわからなかった。どちらも私には間違っているように思えた。私たちは非常に意図的である必要があると思う。つまり、AI技術をどのように、どこに適用するかについて、堅牢な公開討論と理解を持つ必要がある。「機械を粉砕せよ」でも「そのまま進め」でもなく。

モラトリアムに関する私の理解では、それがまさに目的である。現在の規制環境は、データセンターの負の外部性を価格に反映できていないため、主要な投資家は規制改正の交渉を先延ばしにするインセンティブを持っている。モラトリアムは、一方的に取ることができる行動であり、それによってインセンティブが変わり、彼らを交渉のテーブルに引き出すことができる。

編集：この意見は、Substackのコメント（Ben Verschoor）にもある。

データセンター問題に関しては、モラトリアムが穏健な選択肢である。なぜなら、このテクノロジーで何をしたいのかを実際に考え、それを実装するための余地を与えてくれるからだ。最近、業界で働く誠実で中道的な人物が、懸念を持ちながらも、私たちの反データセンターグループに来て、円卓対話イベントへの参加を求めてきた。私の答えは、データセンタープロジェクトがまだ進行している限り、限られた時間と帯域を対話に使うことは、彼らの進め方を遅らせたり止めたりするのではなく、一方的な武装解除になるだろうというものだった。

素晴らしい記事だ：

> この最後の点は極めて重要だ。資本主義のCEOがただ邪悪な人間だからというわけではない——まあ、確かにそういう人もいるが——そうではなく、構造的な論理が、生き残るために破壊的なことをするよう彼らを強制しているのだ。彼らは自分を抑えられない。

私は、世界がおかしくなっていることのうち、どれだけが悪意ある行為者によるもので、どれだけが複雑なシステムの創発的な振る舞いによるものなのかについて、多くの時間を費やして考えている。答えは「両方」だ。

特に、その上にもう一つのレベルがあり、それに注意を向けたい。企業間競争の構造は、経営幹部に、世界にとって悪い選択を強いる。これは、完全に善意の経営幹部にとっても真実だ。

しかし、経営幹部は愚かでも無自覚でもない。そのため、時間が経つにつれて、経営幹部の地位にあることは、会社にとっては「経済的に合理的」かもしれないが、それ以外の点では道徳的に妥協を強いられる選択をすることを要求されることが知られるようになる。そして、その認識が広まると、システムは、その道徳的妥協を受け入れられるCEOを選ぶようになる。

つまり、「悪意ある行為者か悪いシステムか」という問題ではなく、「悪いシステムが悪意ある行為者を生み出す」という問題なのだ。

私が思うに、これは単純で、5分考えれば誰にでも明らかだと思うことについて、多くの言葉が費やされている。できる企業は、コスト削減のためにAIに手を伸ばすだろう。できない企業は、できる企業に殺されるだろう。AIは最終的に100%の自動化、すなわち人間の経済的価値が0になることにつながる。人間は収入を得る手段を失い、何も購入できなくなる。企業は売上を上げられなくなり、市場は暴落する。持続不可能な資本主義にはおさらばだ、そして、特に米国の政治的に保守的な人々が何十年も殺そうとしてきたものに、こんにちはだ。

それが経済学の分野で正確に定義された何らかの技術的な意味で意図されていることは確かだが、この「合理的」という言葉の使い方は苛立たしい：

> この需要外部性は、合理的な企業を自動化競争に閉じ込め、集団的に最適な水準をはるかに超えて労働者を追い出す。

最適以下の状況に閉じ込められて、同時に合理的であることはできない。これらの合理的な競争相手が取るべき合理的な行動は、AIの導入を遅らせることに同意することだ。なぜなら、コスト削減は、後々の需要破壊による損失を上回るからだ。だから、彼らがそれをしない、またはできないのであれば、彼らは合理的ではない。逆に、AIの導入を遅らせることが実際に不可能ならば、企業は合理的であり、彼らが置かれている状況は実際には最適以下ではない。

私が苛立つのは、自己利益の追求が、最終的に自分自身の不利益になる場合でも「合理性」として持ち出されるのをよく見かけるからだ。それは経済学の分野ではある技術的な意味で真実かもしれないが（私には本当にわからない）、実際の合理性としては確かに真実ではない。近視眼的な利己主義は決して合理的ではない。