Martin Fowler、LLMとの対話に感じる生理的な嫌悪感を告白
I Don't Like LLMs
Martin Fowlerが、AIとLLM技術に対する複雑な感情を率直に綴った。生産性の向上や画期的な発見への期待がある一方で、エージェントの暴走や生物兵器設計といった危険性も認めつつ、根本的にはAIの流れに乗るしかないと述べる。しかし、LLMとの直接的な対話から生まれる支配的な感情は「好きになれない」というものだ。本物の人間との会話のような不気味の谷を伴う耳障りなLLMの声、自信満々にでっち上げる態度、指摘しても偽りの反省しか示さない姿勢。Jessica Kerrの「使わないのは無責任」という主張や、有用だと感じながらも社会に悪影響を与えると考える世論調査の矛盾にも触れ、LLMが未熟であるがゆえの可能性と、その育った環境であるSilicon Valleyのbrogrammerサブカルチャーへの警戒心を語る。
したがって、人間のふりをするだけでなく、私が避けて通るようなタイプの人間を装うLLMと対話することに、生理的な嫌悪感を覚えるのだ。
HNでの議論
245- serf
私の最も成功したライフハックの一つは、嫌いな人や信頼できない人を避けることだ。
このアドバイスに従っていたら、私の職業人生のほとんどは不可能になっていただろう。それができたらどんなに贅沢だったことか。
- SillyUsername
あの投稿の完全に矛盾した発言が大好きだ。
- AIエージェントを考えるとき、人間化すべきではない
- ...人間のふりをしているだけでなく、私が離れて行くようなタイプの人間を装っているLLMと対話することへの生理的な嫌悪感
つまり彼自身がLLMを人間化して、人間のように扱っている（例えばプロンプトで機械として振る舞わせるのではなく）。
AIに自分の投稿をチェックさせるべきだったのでは :D
- droidjj
ある意味で、RLやシステムプロンプト（これが違いだと思う）ですべて同じに聞こえるようになる前の、初期のLLM時代が恋しい。彼らは奇妙なことを言っていた。役に立つのは上手くなり、楽しさは下手になった。*
*悲しいことに、これは31歳の男性である私自身のことも表している。
- marcuskaz
> AIが引き起こすかもしれない損害が怖い：エージェントの群れが仮想および物理インフラを乗っ取り、生物兵器を設計する
AIがすべて独力で物事を行っているという態度が非常に蔓延している。これらはすべて人間のオペレーターが起動し、指示とツールを与えて、やっていることをやらせているのだ。「AIには独自の意志がある」という態度は単純に間違っている。
悪い人がAIを使って悪いことをするという恐れと、AIエージェントの群れが攻撃して乗っ取るというのは全く別物だ。
- causal
AIとのやり取りは、ストレスを下げるよりも上げることの方が多いと気づいた。たとえ役に立つことをしてくれているときでも。これがやり取りの本質なのか、ユーザーエラーの兆候なのか、それとも何か別のことなのかと考えてきた。
- saadn92
LLMには本当に助けられていて、お金を払っていたアプリをすべて置き換えることができた。社内用なので完璧である必要はないが、本当にお金を節約してくれた。これはあくまで私の経験だ。
- GuB-42
信頼できないLLMと仕事をするのと、信頼できない人と仕事をするのの違いは、LLMには社会的な義務がないことだ。
信頼できない人と仕事をしたいなら、すべてをダブルチェックしなければならないだけでなく（それは許容できるかもしれないが）、社会的な体操もする必要があるかもしれない。人は普通、自分がデタラメを言っていると指摘されるのを好まないからだ。
LLMは気にしない。訂正してもいいし、会話を終わらせてクリーンなコンテキストで新しい会話を始めてもいいし、気分が良くなるなら侮辱しても悪い結果はない。
実際、LLMは訂正されるのが大好きで、それはよくある罠だ。訂正を事実として喜んで使い、たとえあなたが間違っていても反論せずにその上に構築する。だから彼らが間違っていると言うことに負の結果があるとすれば、それだけだ。LLMは人のように根に持つことはないが、より多くのハルシネーションを引き起こすかもしれない。
- Retr0id
私も「人格」の面でLLMは好きではない。頻繁にイライラさせられるが、最終的には問題ない。なぜなら彼らは実際には人間ではないからだ。コンピュータは頻繁に私をイライラさせることをするが、それでもコンピュータを使う。