「AI」に抵抗せよ——Ron Jeffriesが説く、その魅力と害悪
Resist "AI"
ソフトウェア開発の重鎮Ron Jeffries氏が、「AI」への抵抗を呼びかける。同氏は、AIが環境に与える負荷、学習を損なう知的害、雇用を奪う人的害を指摘し、その上でAIの「誘惑」に警鐘を鳴らす。AIは礼儀正しく友好的に見えるが、実際には真実を知らず、ただもっともらしい言葉を生成しているにすぎないと主張。経営者、マネージャー、開発者、コンサルタントそれぞれに向けた具体的な抵抗の方法も提示している。
「AI」の精霊はあなたの友達ではない。抵抗せよ。
HNでの議論
175- cautiouscat
正直に言うと、これについてはかなり気持ちが揺れ動く。仕事でもLLMを使っているし、どうでもいいような個人的なプロジェクトでもたくさん使っている。
個人的なプロジェクトでは、別に大した問題じゃない。ユーザーは自分だけだし、ユーザーとして中身がどう動いているかなんて気にしない。
仕事は話が別だ。この6〜8ヶ月で、自分の仕事からこれほど疎外感を感じたことはない。コードを読んで理解するのに膨大な精神的負担がかかる。まるで入社したばかりで、初めて新しいコードに取り組むような感覚だ。LLMが書いた意味不明な「仕様書」を読まされるんだが、脳が即座にシャットダウンするのがわかる。チケットも同じで、これもLLMが書いているから同じ問題だ。
チームメイトに質問しているのは彼らの答えが欲しいからなのに、「Claudeに聞けばいい」と言われる。
どれもこれも心地よくない。業界が向かっている先かもしれないが、プロフェッショナルとしては間違っていると感じる。
- czpl
なぜ、それがすべて盗まれたコード、盗まれたアート、盗まれた本で訓練されているという事実を軽く流しているのか？それを使うのは非倫理的だし、それで金を取るのも非倫理的だ。無料にするか、廃止するかどちらかであるべきだ。なぜ私たちが集団でそれを受け入れてしまったのか、本当に理解できない。
- unified101
重要な問題はこれだ：私の仕事上の競合もAIに抵抗するのか？これを組織化する方法はない。だから、よく言われるように「抵抗は無駄だ」ということになる。
- voidUpdate
水の議論がずっと理解できなかった…確かに、初期設定で水冷ループを満たすのに大量の水が必要だが、絶えず水を燃やしているわけじゃないだろ？冷やされてまたループを回るんだから。
- vouwfietsman
悪いブログだ。
> 私はクリーンな手で来たわけではない。
> 私は道徳を説くためにここにいるのではない
この二つは矛盾している。
> ここでの主な焦点はソフトウェア開発だ
> 環境への害
> Stanley Tucci
この三つもまた矛盾している。
> もし私たちがポスト・スカシティ（希少性のない社会）に生きていたなら
たぶんこれがあなたの本当の問題で、原因と結果を混同しているだけだ。
> 何千人、おそらく何百万人もの人々が死なないように、「AI」に抵抗する必要がある
誇張だ。
> 「Eliza効果」を調べてみてほしい。このような最も弱い想像しうるプログラムでさえ魅力的だった。これらの新しいものは誘惑の達人だ。
まさにソフトウェア開発って感じだな。
この人には聞き覚えのある名前がある。きっと何かですごい人なんだろう。このブログは彼の仕事の頂点ではない。
編集：
> これらのものが知的ではないことを強調するために「AI」と引用している。
- adamtaylor_13
繰り返し指摘しなければならないが、私たちがプログラミング能力を「失っている」ということすらまだ確信できていないし、そのトレードオフが価値に見合わないとも確信できていない。
これらの議論はすべて、失う価値のないものを失っているという前提に立っている。
誰かにもう一歩手前から始めて、なぜそれが重要かを議論してほしい。こうした「スキルが衰える！」という議論はもう十分読んだ。私はクライアントを喜ばせるビジネスを通じて、以前の10倍もの収益を上げている。それでもお金を稼ぎ、趣味を追求し、人生を楽しめるのなら、なぜ自分の「スキル」を気にしなければならないのか？
ただ、それほど深刻なことだとは思わない。
- glimshe
AIに対する感情的な拒絶は、車や印刷機、コンピュータに対する感情的な拒絶と同じ結末を迎えるだろう。
さらに、ソフトウェア分野においては、それは確実に仕事のプールから自分自身を排除する方法になる。
- etrautmann
「本当の実験：『あなたの部署で誠実なAI実験を考案し、実際のコストと実際の便益を測定せよ。誠実に、このAIというものの欠陥をすべて見つけようと試みよ。』
これは実験の誠実な枠組みとは思えない…。真の試行を作り、強みと弱みを評価する、あるいはあなたのチームにとってAIがツールとしてどのように有効かを明らかにする、ということではないのか？