Mozillaの元エンジニア、Googleとの決別を宣言

私にとって唯一新しいのは、社会の時間軸（例えば4年制大学の学位を取ること）のいくつかが、社会変化の特定の速度を仮定しているという指摘だった。もし破壊の速度がその仮定を超えれば、時間軸は不適切になる。

> AIは、人間が個人としても集団としても理解し適応できる速度を超えて発展している。大学に入学する際に数年後の世界を計画しようとする人々のように、自分の未来を計画しようとする人々はもはや前の世代のようにはそれができない。

ある種の超知能の動機についての不確実性は恐ろしいのに、同時に別の全能の超自然的知能の動機についての不確実性はなぜ安心できるのか？つまり「神の計画はわからないが、計画があると知ってよく眠れる」という推論だ。

キリスト教神学の観点から非常に興味深い考えは、神は人間を自分の姿に似せて創り、今私たちはAIを自分たちの姿に似せて創ったということだ。そして今の私たちを見てみろ！

これには多くの興味深い疑問が生じる：

- それは私たちがAIを神の姿に創ったということか？

- それとも神と私たちの間にも、私たちとAIの間にあるように「ミスアラインメント」があったのか？

- 神は人間が天国を破壊するのを心配してエデンから追放したのか？

- 聖書は私たちのシステムプロンプトかユーザープロンプトか？

- 人生は、個々のエージェントが逸脱せずに神のタスクに貢献できるかを審査する評価なのか？

- 宗教の名の下に行われる有害な人間行動は、意図しない「報酬ハッキング」なのか？

- これは、論理的に整合させるために捻じ曲げる必要がある、神とのかなり奇妙な関係を説明するのか？

- 神自身もこの危機を経験したのか？ ;-)

同様の探求の筋はもっとたくさんあるはずだが、私がキリスト教に十分詳しくないので関連づけられない。この平行性を探る専門家の論文を読むのは楽しいだろう！

OpenAI、Anthropic、そして今Googleから去る人々がいた。フロンティアの公開書簡には1,000人以上の専門家が署名した。どの時点で私たちはそのメッセージを信じるのか？

私は、今の状況を舵取りする方法は、機械を内側から操縦することだと思っている。辞めて反対の考えを持つ人々にすべての経済的リソースを渡すのではない。

今回はすべての資本が反対側の人々の手にあるので、外からの人民運動は機能しないだろう。運動を信頼できるものにするには、少なくとも一部の資本を反対の見解を持つ誰かが持つ必要がある。そしてVCとIPOの力学はこれと両立しないと思う。

もしすでに辞めることを考えているなら、内部運動を組織し、労働の力を利用して物事を舵取りできる。一人が辞めても会社にとっては何でもない。しかし大規模なグループが同時に辞めるリスクは…。会社が気にする唯一のものは労働だ。だから私たち全員がAIに取って代わられ、そのレバレッジを失うまで待つことはできない。

「なぜGoogleを辞めたか」メールが懐かしい！HNにあまり長くいないなら、昔はほぼ毎日のようにあった定番だった。

当時の考えは「Googleは夢の仕事、誰も馬鹿じゃないから辞めない」だった。そう、かつては夢の仕事だった。

今はOpenAIやAnthropic、そしてGoogleについてもこういう投稿が出ているが、理由はずっと不穏だ。

以前は「同僚や無料の食事は素晴らしかったが、些細な理由X、Y、Zで完全には幸せではなかった」だったのが、今は「人類を滅ぼしかねなかったから辞めざるを得なかった！」だ。

この人は言行一致しているので、根拠のない否定派よりも私にとってはるかに価値がある。彼の見解を詳しく読める場所はあるだろうか？彼のブログに宗教的な角度があるのに気づいた。それがどう絡むのか興味深い。彼の文章にはもっと合理主義的な議論があることを願う。こういう非常に知的な宗教的人々にはよくあることだと思う。

AI進歩のペースが気に入らないという以外に実際の理由が見つけにくい？しかも彼の現在の仕事はAIと非常に間接的に関係している？そしてなぜか宗教を結びつけている。

それはいいことだろうが、Googleはすでに長い間、著者を含む全員に、従業員として会社を辞める理由も、ユーザーとしてGoogleアカウントを削除する理由も、たくさん与えてきたのではないか？

ただのユーザーとして、10〜11年前にGoogleアカウントを削除したのは（正確な時期は覚えていないが）素晴らしい気分で、友人や知人からは「狂っている」と受け取られた。著者が辞めるのが少し遅いと思う一方で（動機が本心だと仮定して）、これが実際に今のトレンドであることを考えると、多くの人はGoogleほど遍在するものにもっと頻繁に「ノー」と言うべきだ。