AnthropicでAIエージェントの稼働時間が人間の6倍に、若手技術職の採用は急減

これは到底持続可能とは思えない。エージェントの活動が増え続ければ、人間が自分たちの生活を支えるシステムの仕組みを集合的に把握することなど文字通り不可能な地点まで行き着くしかない。どうしてこれがうまく終わると思う人がいるのか。もし人間が重要なシステムの制御を失えば、ある日それらが動かなくなったとき（エージェントが完璧で人類全体の公益と100パーセント整合しているのでない限り、簡単に起こり得る。そもそもそれをどう定義するのか）、医療システムや電力網を運用する能力を失った自分たちに気づくかもしれない。それらはあまりに複雑化し、人間が介入して修理することなど誰にもできないほどになっているのだ。確率的なエージェントを使って決定論的なチェック・アンド・バランスを作り出し、本当に問題を解決できるフィードバックループは作れると信じている。しかし現状は無法地帯であり、多くの企業で起きているのはそういうことではないし、解決策はまだ地平線にも見えていない。「エージェントが何とかする」としても……それで我々はどうなる？すべてを最先端のLLMに通さなければ社会を運営できないのか？Ted Chiangのとても短い短編『The evolution of Human science』をちょうど読み終えたところだ。それは人類が科学論文を寄稿してから25年経った時点から始まる。『メタ人間』がすべての研究を担い、デジタルで通信するため、人間はエージェントが実際に知っていることの低忠実度のレポートしか得られず、理解しようとする営みはベストエフォートの考古学のようなものになってしまった……