AIの「スロップ」に宣戦布告、開発者たちがManifestoを公開

> 出力をパッチするよりもシステムを改善する

これは、AIが生成した巨大なPRをどうレビューするかについて、同僚と最近交わした会話と本当に響き合う。一つの方法は、提出者にプロンプトを貢献の一部として提出してもらうことだ。そうすれば、レビュアーが貢献者の思考プロセスを理解しやすくなり、そのプロセス自体が健全かどうかも判断できる。

このレビュー方法が特効薬だと言うつもりはないが、少なくとも負担はいくらか軽くなる。

非否定的な名前を使えばいいのに。ちょうど「重量級の開発プロセスなし」マニフェストではなく、アジャイルマニフェストの方が参照しやすくキャッチーだったように、あなたのものも…人間に奉仕するエンジニアリング・マニフェスト、とか？

オリジナルのスタイルで、私がとても気に入っている短い定式化：

--------

私たちは、AIを使ってシステムを開発し、他の人々が責任を持ってそれを使うよう導く、より良い方法を発見しつつある。

この作業を通じて、私たちは以下を重視するようになった：

提供速度よりも人間の説明責任

無監督の自律実行よりも人間の尊厳と制御

置き換えよりも人間の拡張

生のコード生成よりもインパクトのある成果

個人の向上よりも人間の協働

つまり、右側の項目にも価値はあるが、私たちは左側の項目をより重視する。

このマニフェストは、決して完全には特定しない中心的な考えの周りを回っている。AIが関与しているかどうかに関わらず、すべてのスロップは人間によって作られる。なぜなら、「スロップ」の本当の原因は、誰かが気にせず、まるで最終製品であるかのように、最初に得た結果を公開してしまうことだからだ。彼らは得たものを分析し、改善し、最低限の品質を提供する努力をしなかった。

そしてこれは昔からずっと起きてきたことだ。現在のAIよりずっと前に、私たちはすでに「ショベルウェア」という言葉を作っていた。それは主に大量のずさんなソフトウェアのことだった。DeviantArtのようなサイトにも、ずさんな絵がたくさんあった。AIはスロップが起こるのをずっと簡単にしただけだが、スロップを生み出しているのは常に人間だ。

一文が本当に目を引いた…「私たちは計画、設計、結果をレビューするかもしれない。なぜなら、そうしなければ、他のみんなと同じ出力しか得られないからだ。」

他のみんなと同じ出力を得ることは悪いことなのだろうか？必ずしもそうではないと思う。何かを作るとき、自分がより良くしたいことの核心に「イノベーション・トークン」を使いたいと思うかもしれない。そして他のすべてについては十分な仕事をすればいい。

私には、この文章のサブテキストは、物事をよりアクセスしやすくするのは、あなたの作品がもはやユニークでなくなるから悪い、と言っているように感じる。このゼロサム／希少性のマインドセットは、正確でも役に立つとも思えない。

それに反対して戦う姿勢で臨むことはできない。それを最も有益な方法で生活に取り入れるというビジョンが必要だ。

エンジニアでない人々が今や製品を作れるという事実には大きな価値がある！AI製品は一定の品質基準を守るべきか？はい！「人間が作った」ものと同様に扱われるべきか…まあ、はい。好むと好まざるとにかかわらず。

AI利用に関する多くの中間的な立場について私が思う問題は、AIはウイルス的だということだ。プロジェクトでAIを使えば使うほど、もっと使う必要が出てくる。