LLMは「考えていない」——だからこそ、どこまでAIコードを使うかは自分で決めろ
Is there a 'right amount' of AI?
AI懐疑派のブログ著者が、OvercastやBig WalkなどLLMが関わったソフトを使う現実と向き合う。LLMは統計的な言葉の関係を扱うだけでコードを「理解」しておらず、委ねるほど開発者の理解は失われる。ゼロにできるLLMコードは常にゼロだとしつつ、意図的に最小限で使う道を探る。
LLMは定義上、何ひとつ思慮深く作ることができない。LLMには思考がないからだ。
HNでの議論
62- adamddev1
> LLMは定義上、何も思慮深く作ることはできない。なぜならLLMには思考がないからだ。…職人技を感じさせ、洗練されていて、直感的に感じられるアプリには、センスだけでなく理解力を持った人間の開発者が必要だ。
よく言った、ありがとう。
これが理解できない人がいるのが悲しい。すでに「AIでアプリが作れるから、もう誰もコーディングする必要はない」という誤謬がある。まるでコーディングがアプリを作ることだけかのように。しかし、人々が許容できると思うアプリでさえ、とても偽物っぽく、ぎこちなく、泥臭く感じる。
- eviks
> 「自分で書いていないライブラリを使うのは嫌だ」と「ロボットにコードを書いてもらうのは大好きだ」をどう調和させればいいか悩む。
（推測だが）簡単な解決策は、最初のアプローチもあまり意味がなかったと理解することだ（表面的に見ても「自分のコードを隅々まで理解したい」はライブラリのコードを読んだりテストしたりすれば簡単に解決できる）。だから別の流行に簡単に熱狂してしまう。個人的な魅力という深いレベルでは、それほど矛盾はない。
- WillAdams
賞に関しては、AIの使用をカテゴリの説明や応募資格のルールに事前に組み込むべきだし、主催者はAIを使わないコンテスト（参加者に関しては、ボットは常に投票から排除されるべきだといいのだが）や、AIを許可するコンテスト、あるいは使用・非使用でカテゴリを分けるコンテストを自由に開催できるべきだ。
私自身はこのゲームに遅れて参加した――初期にGoogleのLLM対応ノートブックでサンプルのDXFファイルを生成したことはあったが、主にStackexchangeなどからコピペしてハックしている。flet.devが1.0に達してオンラインスタジオを提供したことで、トークンを購入し、最終的にはサブスクリプションを契約して以下を作った：
https://studio.flet.dev/apps/bicQWc3Aul
しかし長い間動作せず、トークンも切れていたので、次の月のトークンが届くのを待つ間、コピペと時折Copilotにエラーを尋ねながら以下をコーディングした：
https://studio.flet.dev/apps/46tp8GPq9g
現在、最初のアプリのプレビューを正しく表示する方法、後者にオプションのツールパスプレビューを追加する方法、そして自分が理解できるアーキテクチャと快適に使えるツールチェーンで、より大きく複雑なバージョンを立ち上げる方法を模索中だ（ブラウザアプリではなく、私の典型的な開発チェーンは.textファイルで駆動されるローカルなもの：https://github.com/WillAdams/gcodepreview で、Literate Programmingシステムを使っている）。
- ionetan
システムの異なる部分は異なるレベルのリスクを負っていると思う。少し前に、リスクを細かく評価するモデルを提案した。個々の部分に価値（CCD - 認知負債のコスト）を置くことで、チーム内で健全な議論を促進できるかもしれない。ここで詳しく説明している：
- vips7L
はい、0です。