GPUを最も持つ者が研究の未来を握る？ 学界復権を賭けたオープンソース週間

>捨て去らなければならないのは、業績の単位としての論文、つまり数えられ比較されるものだ。もしエコシステムが研究の単位なら、他の人がその上に築けるものを作ることが、次の些細な進歩よりも価値を持つはずだ。

accomplishmentの尺度として「何かを作る」ことに焦点を当てるのは、数十年前にCMUにいてとても楽しかった理由の一つだ。だから、この感覚が新世代の教員にもまだ表現されているのを見てとても嬉しい。

スレッドの多くの人が、記事のAIっぽさやナンセンスな部分を指摘している。こういう記事には本当にうんざりする。インターネット上で、人が自分で書いたものを載せている場所はもう一箇所も残っていないのだろうか？ せめて公開前に読むとか。

>難しさは消えたわけではない。移動したのだ。論文を出版するのはもはや難しくない。首尾一貫したエコシステムを出版するのが難しいのだ。

ひどい記事だ。こういうので溢れている。典型的なLLMだ。人がこれを投稿するのに驚く。特に、LLMが書いた記事を人々が嫌うという記事がたくさんupvoteされた後なのに。

それでも好奇心に負けて、著者が後半でもっと価値ある洞察を述べているかもしれないと思った。悲観主義について語っている辺りをざっと読み飛ばしていると、こんなのに出くわした：

>「ソフトウェアエンジニア」という仕事はもはや存在しない——そして両方とも今や手の届くところにある：エージェントスキルは時間とともに身につき、かつては何年もかかった深い専門化も、エージェントを使えばすぐに習得できる。

これは、私のチーム（コンパイラバックエンド）でジュニアを育ててきた経験から言って、まったく間違っている。ドメインを知るには依然として長い時間がかかる。エージェントは、システム全体やそれが他のシステムとどう組み合わさるか、どんなユースケースに晒されるかについての文脈と知識を置き換えることはできない。エージェントは加速を助けるかもしれないが、私のチームに加わったジュニアにとって「すぐに習得できる」ようには感じられない。

大学教授がAI生成の記事を公開するのを見るのは胸が悪くなる

>まずスキルと基礎知識を身につけてから問題を解くという考えを手放さなければならない。順序が逆になる。

^これ

この記事は…フロンティアAIを自分のハードウェアで動かす方法を説明していない。もしそれが可能なら、OpenAIとAnthropicの足元が崩れるだろう。

この記事、最高だ、その通り。

>「まずハーネスから始めよ。なぜならそれが他のすべてを使い物にするからだ」

私は今年3つのハーネスを書いた（Common Lisp、Python、Racket Schemeで）。素晴らしい学習経験だった。私は1980年代にDARPAのニューラルネットワーク諮問委員会にいた時からニューラルネットワーク技術を使ってきたが、当時よりも（桁違いに）興奮している。

Timの言う通りだと思う。ハイパースケーラーは小規模システムをブートストラップする機能を果たすが、話の全体像にはほど遠い。