「知的ファスナーが開いています」——LinkedInでLLM生成投稿が増える中、ブライアン・カントリルが警告
Intellectual Fly Is Open
ブライアン・カントリルがLinkedIn上で、LLMを使って投稿を生成することへの痛烈な批判を展開。彼はLLMがもたらす文体の違和感（絵文字、一文段落、emダッシュの多用など）を指摘し、読者に「本物」かどうか疑念を抱かせ、結果的に読まれなくなる危険性を訴えます。一方で、LLMの有用性（ブレインストーミング、文章理解、編集）も認めつつ、自分の声で書くことの重要性を強調します。
率直に言って、あなたの知的ファスナーは開いています。多くの人が気づいていますが、誰も指摘しません。
HNでの議論
432- jeremyjh
これらはすべて重要な指摘であり、この比喩も気に入っている。しかし、LLMに文章を書かせることにはさらに大きな問題がある。
書くことは考えることだ。考え、決定することだ。私自身、何かまとまったものを書き始めたとき——メールでも、ブログ記事でも、ソフトウェア設計文書でも、何でも——書き進めるうちに自分の見解が大きく変わったことが何度もある。書くことは思考を直列化することを強制するが、その全体像を常に信頼できるとは限らない。
見直すことで、議論がしっかりつながっているか、参照（非公式なものでも）が正確かを確認し、対処していない反論を検討する時間が持てる。
こうしたことはLinkedInではあまり重要ではないが、仕事では非常に重要だ。理解をAIに外注することはできない。AIは強力なツールだが、人間の理解は持っていない——それが最適化の目標ではないからだ。
- dynm
「LLMは文章が下手だから、開示なしに使うべきではない」という形の議論には少し懐疑的だ。
その理由は、もしLLMの文章作成能力が向上したら——これは極めて可能性が高いと思うが——あなたは立場を変えて、開示なしにLLMを使っても問題ないと言うのだろうか？
確かにその結論を受け入れる人もいるだろう。しかし、ほとんどの人にとっては、答えは依然としてノーだろうと思う。したがって、私が思うに、人々がLLMを開示なしに使うことを嫌う「本当の」理由は、それが誤解を招くからだ。つまり、実際には人間に帰属できない思考を、人間に帰属できるかのように主張するようなものだからだ。
（このメッセージのダッシュはキーボードショートカットで入力した。）
- jgrahamc
この投稿で最も重要な一文はこれだと思う：「しかしLLMはまた、文章が下手であり、（最も重要なことに！）あなた自身ではない」。
Cloudflareのブログを編集していたとき、私は文体に関する制約をほとんど設けず、各執筆者の個性がにじみ出るようにしていた。読者が、実際の個人が（個人的な癖もそのままに）文章を書いたと感じられることは、内容そのものとほぼ同じくらい重要だった。
- ericbarrett
書かれた作品をレストランに例えるなら、タイトルと署名は店構えのようなものだ。何が出されるかがわかり、空腹なら中に入って注文する。時には料理が素晴らしいこともある。たいていはかなり良い。たまに退屈だったり、ひどかったりするが、それが原因で将来の冒険を思いとどまるほどではない。もちろん、その特定の店主のところに再び足を運ぶことはないだろう。
LLMによる文章には、もう一つの結果がある。中に入ると、壁はベージュで心地よい。匂いと食べ物の期待に従って廊下を進む。突き当たりには印のないドアがあり、開けて覗くと、無数の廊下が続いていて、それぞれが前より混沌とし、乱雑になっている。非常に空腹で、探検する勇気があるなら、結局食べ物にはたどり着けず、ただの無限の鏡の間で、構造はあるが中身は何もないことに気づくかもしれない。
時には食べ物を見つけることもあるが、退屈なものよりましなことはない。
こうした場所の外観は、一見すると今でも人間が経営するレストランのように見えるが、私たちは皆、その見分け方を学んでいる。今では、最初のドアを開けてさらに廊下が見えたら、振り返って別の場所を探すだろう。
- wj
AIが書いたコンテンツは読みたくない。
LinkedInに欲しい機能は、ユーザー向けの「100%人間が検証済み」フラグだ。LinkedInはスキャンを行い、AI支援コンテンツを投稿しているユーザーを検出したら、そのフラグを偽にできる。それをフィードから除外させてほしい。
何らかの形で言論の質の基準を維持しなければ、知的にも、人間性の一部としても失うことになる。
LinkedInは私が使う唯一のソーシャルメディアだが、危機的状況にある。
- embedding-shape
私を困惑させるのは、人々が自分自身の低品質な文章に気づかないだけでなく、他人の「LLMによる文章」も見分けられるはずだということだ。そして、自分が発信しているものがまったく同じように聞こえることに気づいているのか？それとも、人々は魔法の「送信」ボタンを押す前に、自分が「書いた」ものを完全に読むのをやめてしまったのか？
- aviperl
LinkedInにログインすると、投稿の大部分が信用を稼ぎ、個人ブランドを築くためのもののように見える。
LLM以前から、それはかなり不快だと感じていた。LLM以降、その受け手側に立つと、知的に侮辱されているように感じる。
LLMを使うことは、ブランド自殺になる方法がある。
- siskiyou
私はLinkedInで働いていた（退職前の短期間だが）、それ以前から何年もその製品を利用していて役立っていたので、かなり使っていたが、今は現在のニーズに合わないのであまり使っていない。以前から、人間が書いたひどい百万ビュー投稿や、アルゴリズムに宣伝される役に立たないインフルエンサーが常にあった。それは常にゴミだったが、LLMにとってはそれらの投稿がエンゲージメントのために成功に見えるため、LLMはそのゴミを再現しようとし、平凡な仕事をし、その結果、この種の奇妙なゴミが生まれる。基本的に、LLMは自分自身の供給に酔っているように見える。問題は、バイラルなものは常に私が部屋から飛び出してドアを閉めたくなるようなものだったので、たとえLLMがそのゴミをよりうまく再現しても、それはやはりゴミであり、ただ少し奇妙さが減るだけだ。
- SoftTalker
> LinkedInでは、完全に不正ではないものを得ていることがわかっている...
出典の提示が切実に必要だ。
- rglover
LLMを使って文章を書き、そのLLMに適切な文脈（つまり、文章のサンプルや文章作成に特化したスキルファイルなど）を与えていない人を、私はいつも見分けられる。そういう人たちは、AIの文章スタイルについて不平を言う傾向もある。
調整に時間をかければ、かなり良い結果が得られる。決まり文句などはまだ忍び込むが、編集や作り直しに時間をかければ、かなり良いワークフローになる（特に芸術的というより手続き的なものには）。