AIに冷水を浴びせてくれる記事リスト――私が引いた3つの線引き
AI Cold Showers
AIに夢中になりがちな著者が、熱意を冷ますための記事を集めたエバーグリーンなリスト。人間をボトルネックと見なすエージェントシステムの問題、読解力の喪失、AI生成文章が思考の真正性を損なう危険性などを取り上げ、それぞれから印象的な引用を紹介する。さらに、AIに文章を書かせない、読ませない、メモを取らせないという個人的な線引きを公約として宣言する。
HITLからHを取り除くことは効率化ではない。システムが自分自身を軌道修正する唯一の仕組みを放棄することなのだ。
HNでの議論
12- alexpotato
> 彼らが提案しているものは、ほとんどの場合、自動化する準備ができていないプロセスの状態を表示するダッシュボードやウェブサイトであり、まだ追跡する価値のないワークフローを追跡するために作られたものだ。そのツールは問題を解決していない。
上記は、リストアップされた記事の1つ[0]からの引用です。
この一節に心を打たれたのは、私が働いたことのあるいくつかの場所で、以下のいずれかまたは両方が当てはまっていたからです：
- ワークキューに必要な人数よりも多くの人がいた
- 人々の役割や、何に取り組むべきかについての明確さがなかった
これを言及するのは、存在しない問題に対する解決策を人々が見つけるという問題は、AI現象ではなく、既存のものだからです。
AIは確かにその問題を悪化させていますが、新しい現象ではありません。
0 - https://nooneshappy.com/article/appearing-productive-in-the-...
- jgord
楽しめました。もっと重要なのは、これは私たちが緊急に解決する必要がある新たな問題だということです。
実際の人々が何を考えているかを知るためにインターネットを読みたいという自分の欲求はさておき、一種のビット腐敗が心配です。今から10年も経てば、一般の読者はどのコンテンツが人間によるもので、どのコンテンツがAIによるものなのか、まったくわからなくなるでしょう。
AI（LLM）を訓練する人々は、実際にこの2つを分離し、前のLLMの出力で次のLLMを訓練するというフィードバックループを避ける必要があると思います。
おそらく、これは平均への回帰を引き起こし、昔のコピーのコピーが劣化するのと同様に、コピーの劣化をもたらすでしょう。
私たちはすでに、物理メディアからの移行による一種のビット腐敗を経験しています。テレビのドキュメンタリーや、オーディオ/ビデオ/映画/ゲームの多くが、恒久的なアーカイブストレージに移されずに失われています。
絶版になった古い本は、文化遺産の一部としてスキャンされ、公開され、オンラインで恒久的に利用可能にされるべきです（現在および将来のAIを訓練する目的のためにも、事実上のアーカイブ/オラクルとして）。
- TazeTSchnitzel
HNにはAIについて似たようなことを言うブログ記事が絶えず殺到しているので、たまにはこのようなリストにまとめてフィルタリングしてくれると本当にありがたいです。