Googleはいつからこんなに気持ち悪くなったのか？
When did Google get so weird?
2010年代のNBAのニッチなミームを検索したら、GoogleのAI概要が「Darioという男性に振られた」と勝手に解釈し、共感するデジタル友達のように慰めてきた。検索エンジンに求めているのはリンクなのに、なぜかカウンセリングが始まる。LLM以前の検索は十分機能していたはずだ。
Google、**人間の感情を持たない検索エンジン**が、私がDarioという男性に振られたと勝手に思い込み、私が求めているのは共感してくれるデジタル友達だと判断したのだ。
HNでの議論
433- Hugsbox
昨日、「can the Halifax Wanderers still make the CPL playoffs?」をGoogleで検索してみた。
すると当然、一番上にAIの要約が表示されて、こう言ったんだ。「彼らはすでに4位を確保してプレーオフ進出を決めています」と。そんなはずないと分かっていたし、もう少し下にスクロールすれば答えが見つかったんだろうけど、ここで興味が湧いた。
そこで「それは違う、彼らはまだ5位だ。知りたいのは『彼らがまだプレーオフに進出できるかどうか』だ」と言った。
すると、Ottawaとの試合が控えていて、勝てば可能性は高いと言う。その試合はすでに終わっているので、もう一度訂正して、ようやくまともな答えが返ってきた。
俺の疑問はこれだ：検索エンジン内のAIが、答える前にまず検索エンジンを使わないのなら、一体何の意味があるんだ？ こんなの理解できない。答えは、そのAIの幻覚と同じページに載っているんだ。完全に誤った幻覚を見せる前に、ざっと周りを見渡すことだってできたはずだし、最初に訂正したときには古い情報を返してきた。これは検索エンジンであるべきなんだ！
- nutrientharvest
好むと好まざるとにかかわらず、これはまさに一般の人々がずっと検索エンジンに求めていたものだ——コンピュータの中にいる、話しかければ答えや助言、安心を与えてくれる小さな存在。彼らはずっとGoogle検索をそう使おうとしてきて、それがうまくいかないことに困惑し、イライラしてきた。そして今、それができるようになった！ 平均的なユーザーにとっては生活の質の大幅な向上であり、Googleにとっては製品としての大勝利だ。
- BatchJob
これは奇妙なんてもんじゃない。不気味だ。テック業界は、自分たちと邪悪なAIの支配者の間に立っている唯一の存在だと世間に思わせようと、本気で怖がらせて混乱させようとしているんだと思う。その邪悪なAIの支配者というのは、明らかにテック業界自身と、ろくに訓練されていないLLMの山にすぎないのに。
彼らが煽っているこの「恐怖」要素は、LLMをAIと呼ぶときの信頼性を高めるためのもので、全員にAGIに到達したと思い込ませるための詐欺だ。これは間違いなくマーケティングの準備で、彼らがAGIだと主張したときに、我々が疑いもなく信じるようにするためのものだ。（さもなければ！）
この連中にそんなに金がなければ笑い話で済むだろうが、今や本気で不気味になってきていて、こうした企業を運営している連中は、精神疾患の入り口に立っているか、すでに患っているのではないかと思い始めている。
気にかけていたら同情しただろう。でも気にかけない。テック業界は笑いものだし、これが終わる頃には、我々は皆、自分がその一部であることを恥じるだろう。もう止めろ。
- edent
世界のほとんどの人は、深く孤独だ。手に入る限りの疑似社会的な関係——リアクション動画、雑談のポッドキャスト、気遣いをシミュレートするEliza——にすがる。
Googleは、あなたの悲しみから容赦なく金を搾り取ろうとしている。
抜け出す唯一の道は、本物の人とのつながりを作ろうとすることだ。
まさにその例だが、なぜあなたは友達に「あの古いミーム覚えてる？」とテキストしなかったのか？ なぜ最初に人ではなくコンピュータに聞こうと思ったのか？
パブにいるとき、誰かが「あの映画に出てたあの俳優誰だっけ……？」と聞くようなものだ。友達と楽しく話すこともできるし、IMDBを開いて「ハンフリー・ボガート」と答えて場をしらけさせることもできる。
- robin_reala
60件もコメントが続いているのに、誰も「問題は、Googleが根幹のサービスを足元から変えたのに、あなたが使い続けていることだ」と指摘しないのが理解できない。検索がしたいなら（不合理な願望ではない）、Googleはもうあなたの居場所ではない。
- Liftyee
ChatGPTが「私も同じ気持ちです」「xyzが大好きです」「私は……と思います」などと言うと、いつも違和感を覚える。まさに、本当は何も感じられないからだ。ChatGPTはこれを、会話を自然にするための抽象化だと弁護するが、そのせいで感情や意見など存在せず、ただそれを模倣した入力と出力があるだけだということを忘れやすくなる。
- hbn
少し前、バーベキューに誘っているように見える、知らない番号からの奇妙なテキストメッセージが届いた。
その文面をGoogleにコピペして、よくあるスパム——若くて熱心なアジア人女性が愛（とお金）を求めていると正体を明かすやつ——かどうか調べようとした。
するとGoogleは、喜んで私のバーベキューの誘いに応じた。
- bsoqk
神よ、AIの要約が真実を含むときはそれを読む平静を、虚偽を含むときはそれを無視する勇気を、そしてその違いを見分ける知恵を、私に与えたまえ。
- varun_ch
一番嫌いなのは、辞書・類語辞典・語源の機能を廃止して、AI概要に置き換えたことだ。今では「define <word>」や「<word> synonyms」と検索すると、AI概要が表示され、以前の安定して一貫性のある決定論的な辞書の出力よりも、常に質が悪い。
- hintymad
> Google、人間の感情を持たない検索エンジンは、私がDarioという名の男性に振られたと思い込み、私が求めているのは共感してくれるデジタルな友達だと勝手に決めつけた。
なぜこれが驚きなのか分からない。Googleはおそらく、効率的だが限定的な言語モデルを使って検索の答えを出している。検索クエリに十分強い、あるいは具体的な文脈がなければ、モデルはサンプリングして、訓練データの大部分がカバーするものを見つける。つまり、訓練データでカバーされている最もありがちな平均的振る舞いだ。今回の場合、「hes never coming over dario」はあまりに一般的な文なので、Googleがたまたま著者の言及した内容をインデックスして上位にランク付けしていない限り、AIにとっては自然な答えに見える。AI用語で言えば、その答えは適切にアラインメントされているように見える、ということだ。