AI生成文書に脳が拒否反応　「AI盲目」に陥る技術者の告白

私の脳には、AIが生成したテキストを即座に認識して「ここには情報がない」とショートサーキットしてしまう心理的なメカニズムがあるらしい。そして、無理やりAI生成テキストを読もうとすると、言葉に意味を与えるために脳に創造的な作業をさせていることに気づく。それは、テキストを価値あるものに書き換えるジャストインタイムの作業を文字通り脳にさせているからで、疲れ果てる。AIの出力には何か深く間違ったものがある。これは、普段はAIに非常に感心している私が言うのだから、間違いない。

息子が今ルーマニア語を学んでいて、動詞を手伝おうとしたんだ。私はルーマニア語はわからないけど、初めて外国語を学んだとき、英語で動詞の形や時制がどう機能するかを分解してから、新しい言語での同等のものを学ぶのが本当に役立ったのを思い出した。だから、彼が学習リソースとして使えるチャートやページを作りたかったんだ。Claudeを使った。うまく説明できないけど、テキストが洗練されていてよく構成されていたので、私の脳は「これを理解できないのは、集中していないからだ」というシグナルを送っていた。だから何度も読み返したけど、やっぱり頭に入ってこなかった。すごく疲れているときに技術的なことを読んだときのように、読んでいるのに処理できていない感じだった。数日間格闘して初めて、自分が悪いんじゃないと気づいた。一文ずつ、もっと明確になるように書き直させながら読み進めていくと、概念が簡単に理解できるようになった。この状況に名前があればいいのに。まるで疑似言語のようで、正しい形と提示はあるのに、重要な要素が欠けている。トピックが複雑であればあるほど、この感覚は強くなる。

私も、Claudeがプルリクエストにこっそり入れてくるコメントの半分を解析するのが不可能だと感じている。人間が書いたコードコメントをこんな風に理解できないことは今まで一度もなかった。情報の構造が滝のようで、水面に泳ぎ上がって理解という空気を吸うことができない。だから、「このAI生成コメント5行を置き換えるために、手書きで一言コメントを書いてください」というのが、同僚へのPRレビューでの私の常套句だ。

最後の画像は奇妙だ。キッシュもクリームもサラダも、トライポフォビア（集合体恐怖症）の処理を施されたかのように見える。それも理にかなっているかもしれない。なぜなら、ニュースサイトのチャンボックスエリアには、トライポフォビアやその他の気味の悪いボディホラーを使ってクリックを誘うひどい広告が常にあった（今もある？）からだ[1]。だから、おそらく、キッシュをじっくり見るのではなく、脳の爬虫類的な部分が奇妙に活性化されて、レストランに誘導されることを期待しているのかもしれない。

1. https://medium.com/the-awl/a-complete-taxonomy-of-internet-c...

わからないけど、最先端のモデルと、人間らしく書くためのいくつかのスキルに問題を感じ始めている…

高校のとき、先生が「速く上手に読む方法」という本をくれた。速読を教えてくれる本だ。これは大学でとても役に立った。現代の人間の文章を速読しようとすると、よく間違い（単語の欠落や誤用など）やぎこちない表現があって、本当に解析するにはかなりゆっくり読んで考えないといけないことが多い。AIの文章は、ある意味自己冗長で、各文の情報密度がより均一に感じられる。だから、非常に高いレベルで速読して全体の要点をつかむのがとても簡単だ。また、Hugging Face上にいると思われるボット（またはAI翻訳を使っている非ネイティブスピーカー）がいて、彼らとやり取りすると、非常にゆっくり読まないと何を言っているのかさっぱりわからないことがある。

Claudeはここ6ヶ月で、著しく、そして痛いほど文章が下手になった。今や、コード以外にはほとんど役に立たないと言っていい。