AI는 훌륭했다, 그때까지는

이런 것들이 시장에 나오기 전에 박사 학위를 마쳐서 다행이다. 상당히 다른 경험이었을 것 같고, 아마 내 논문 주제에 대해 지금처럼 확실한 이해를 가진 채로 끝내지 못했을 것 같다.

그녀가 Mathematica 노트북에 대해 한 말이 정말 와닿는다. 소프트웨어 엔지니어가 아니라 과학자로서, 내 작업의 더 중요한 부분을 가속화하는 도구로 코드를 사용하는 입장에서, 일하면서 프로그래밍 기술을 배울 기회가 있다는 게 정말 기뻤다. 그 결실로 절약한 시간이 배우는 데 쓴 시간을 능가했기 때문에 정당화할 수 있었다. 이제는 그렇게 할 수 없다. 나는 소프트웨어를 만드는 게 아니라 스크립트를 작성하는 수준이라, 오늘날 가장 저렴한 모델조차 내가 직접 작성하는 것보다 더 빨리 적절한 코드를 제공한다. 그래서 적어도 업무 시간에는 새로운 프로그래밍 기술을 배우는 것을 더 이상 정당화할 수 없다. 이런 도구들이 나오기 전에 기본기를 익힐 몇 년이 있어서 다행이다.

대면 협업이 양측 모두에게 이해를 구축하고 새로운 아이디어와 접근 방식을 만들어낼 때 사회는 이익을 얻는다.

이제 잠재적 협력자들이 거의 동일한 생성 콘텐츠를 먹고 살기 때문에, AI가 그것을 대체할 수 있을지 의문이다.

그리고 기사에서 강하게 암시된 것처럼, 그것이 초래하는 더 심한 소외감은 말할 것도 없다.

나는 서사적인 차원에서 기사에 어느 정도 동의한다.

최근에 LLM 미래에 대한 내 생각도 조금 어두워졌다.

LLM과 삼체 문제 소설의 소폰(Sophon) 사이의 유사점이 점점 더 정확하다고 느낀다. 특히 인간의 진보를 지연시키는 효과 측면에서 그렇다. 물론 누구나 LLM 사용을 선택하지 않을 수 있으므로(소폰과 달리), 이런 의미에서 진보에 대한 제약은 다소 '연성'처럼 보이지만, 내 생각에 누군가 그렇게 선택할 가능성은 그리 높지 않다. 어려운 것을 억지로 배우거나 탐구하는 대신 그냥 모델에게 물어보는 것이 훨씬 쉽다.

SW 엔지니어링 같은 분야에서는 이를 지지하는 편이지만(표준과 품질 관리 측면이 원시 코드 생성만큼 빠르게 발전한다면...), Tao와 다른 사람들이 수학(그리고 수학만이 아니라 궁극적으로 SWE의 기반이 되는 컴퓨터 과학도 주목받고 있다)에 대해 가진 것과 같은 두려움을 공유한다.

> 특히, 우리 삶을 의미 있게 만드는 몇 안 되는 것 중 하나, 즉 멋진 상이나 멋진 직책이 아니라 단순히 공유하고 토론하고 배울 수 있는 커뮤니티를 파괴하는 것은 꽤 슬픈 일일 것이다.

정확히 그렇다. 문제는 좀 이상한데, 적어도 여기서 함께 작용하는 독립적인 힘들이 있기 때문이다:

(1) AI를 발명하는 사람들이나 AI를 지지하는 사람들은 일반적으로 '정보 러시'를 즐기도록 조건화되었고 인간 상호작용보다 개인적인 피상적 즐거움을 우선시하는 사람들이다. 많은 너드/긱들은 자신들의 작은 세계 밖에서 실제로 상호작용할 필요가 없는 놀이터를 갖는 것을 좋아하고, 그래서 AI가 세상에 나온 최고의 발명품이라고 생각한다. 그들은 종종 학교에서 놀림을 받거나 지능 때문에 인생 초기에 부분적으로 배척당한 사람들이며 기술에서 정서적 위안을 얻는다.

(2) 학계의 왜곡된 인센티브는 출판을 보상하고, 일반적으로 자본주의의 인센티브는 '커뮤니티' 같은 재화를 희생하면서 가능한 한 효율적이 되기 위한 군비 경쟁을 만든다. '커뮤니티'는 종종 자본주의 시스템 밖에서만 모호한 이익을 축적한다. 그래서 사람들은 AI를 사용하는 경향이 있다.

(3) 매우 발전된 기술 자체가 더 작은 커뮤니티를 약화시키고 심지어 파괴하며, 그 구성원들은 의식적으로든 무의식적으로든 뭔가 빠져 있다고 느끼는 것을 달래기 위해 피상적인 위안으로 기술을 찾는다.

AI는 결코 훌륭하지 않았다. 지식 자체를 목적으로 삼는 것은 좋은 일이 아니며 우리는 지식을 추구해야 한다 […]