AI가 지적 공동체를 해체하면 개인의 지적 활동도 사라진다

이건 잘 짚은 것이고, 우리 중 많은 이들이 고민하는 부분이라고 생각한다.

인터넷 자체는 최신 프롬프트 '기법'에 끝없이 열광하는 AI 맥시멀리스트들, 혹은 한 번이라도 AI로 사진을 만들었다고 말하면 산 채로 가죽을 벗겨버릴 AI 둠어들로 가득한 것 같다.

조용히 동료들 사이에서 내가 이야기하는 사람들 중에는 아주 다른 그룹이 있는 것 같다: AI가 많은 일을 처리하는 데 엄청나게 유용하다는 걸 인정하면서도, 갑자기 그 일이 예전보다 훨씬 덜 흥미롭게 느껴진다고 여기는 사람들이다.

물론 "나는 프로그래밍의 역학을 즐긴다"는 부분이 사라진 건 명백하지만, 그보다 더 깊게 느껴지는, 떨쳐내기 힘든 일반적인 감각도 있다. 나는 그것에 대해 궁금해했다. 그게 전부 해고 때문일까? 우리 회사 상당수의 갑자기 불안해진 경제 상황 때문일까? 커리어의 미래에 대한 전반적인 불확실성 때문일까?

나는 글쓴이가 그것을 지적 공동체의 부재라고 잘 짚었다고 생각한다. 적어도 그 일부인 것 같다.

이 글 정말 좋았다. 나도 글쓴이가 묘사하는 바로 그 감각을 느꼈다 - 예전에는 내 장인 정신(iOS 앱)을 많이 신경 썼는데, 그게 AI에 의해 산산조각 났다. 장인 정신과 안목이 여전히 차별화 요소가 아니라는 건 아니다 - 다만 몇 주에 걸쳐 완벽한 무언가를 만드는 게, 한나절이면 80%까지 도달할 수 있다면, 훨씬 덜 만족스러운 것 같다.

"지속적이고 복잡하며 장기적인 사적 지적 활동은 연료와 산화제처럼 재료와 동기를 제공해 줄 외부 지적 공동체를 필요로 한다. 그 사적 활동은 다시 공동체를 지탱한다..."

가장 위대한 예술 중 많은 부분이 이런 종류의 '씬'에서 생산되었다고 생각한다. 예를 들어 음악은 개인만이 창조하는 게 아니라, 다른 이들과 듣고 보고 연주하며 나온다. 나중에 앉아서 그 모든 입력이 완전히 새로운 무언가로 변한다.

내가 코딩에서 "멀어지기" 시작한 것과 동시에, 음악에 더 깊이 빠져들기 시작했다고 생각한다. 그리고 그것이 나 혼자였다면, 짧게 끝났을 것이다. 하지만 실제 생활에서 함께 연주하고 주고받을 사람들이 있으면 약 100배는 더 좋아지고, 혼자였다면 흥미를 잃었을 훨씬 뒤까지 계속하게 된다.

이런 감정을 느끼는 사람은 누구든 비슷한 것을 찾아보라고 권하고 싶다. 창작 행위는 여전히 예전만큼 필수적이다, 다만 에너지를 더 순수하게 인간적인 무언가로 돌리면 된다. 글쓰기, 그림 그리기, 목공... 이런 것들이 즉시 대량 생산 가능하더라도, 우리는 여전히 인간이 그것을 하는 것을 가치 있게 여기고 돈을 지불할 것이다.

나는 [...]

그렇다. 나는 몇몇 친구와 지인에게 어떻게든 AI가 내 생애에서 가장 흥미 없는 기술이라고 말했다 - 지지자들은 AI를 사용해 AI로 AI를 하는 데 도움이 되는 새 도구를 AI로 만들었다는 글을 쓰고, 비판자들은 AI가 우리 모두를 AI할 것이라고 쓴다(때로는 충격적이게도 AI를 사용해 쓴다). 이 새로운 기술을 시도해봤나? 내 연구 논문을 읽어봐, AI가 감독 없이도 좋은 작업을 할 수 있다는 걸 보여줘? 아, 그래, 흥미롭네, AI가 X, Y, Z를 어떻게 했는지에 대해 어떻게 생각해? 글쎄, 나는 거기에 그렇게 많은 시간을 쓰지 않았어.

여기는 점점 외로워지고 있다, 심지어 혹은 특히 "나는 AI에 별로 관심 없다"로 수렴한 경우에는 더욱.

이 글에는 내가 동의하지 않는 몇 가지가 있다(관점의 문제라고 생각한다):

> 소프트웨어 엔지니어링을 둘러싼 담론은 더 멍청해졌다. 업계 전체가 IQ 30을 잃은 것 같다. 사람들은 컴파일러, 타입 시스템, 논리에 대해 이야기하곤 했다. 지금은 "프롬프트", "하네스", "루프"에 대해 이야기한다. 담론은 더 좁고, 더 얕고, 더 반복적이다. "에이전트 하네스"에 대해 듣는 것도 정신이 나갈 지경이 되기 전까지는 한계가 있다.

여기서의 좌절감에는 동의한다 :)

> 혁신적인 새 프로그래밍 언어를 설계한다고? 누가 신경 쓰나? 어쩌면 Claude가 신경 쓸지도, 그게 무슨 가치가 있겠지만. 하지만 인간은 더 이상 코드를 쓰지도, 읽지도 않는다. 프로그래밍 언어는 인간이 더 이상 신경 쓸 필요 없는 구현 세부 사항이다.

아마도 코딩 에이전트 이전에 컴파일러, 타입 시스템, 논리에 대해 생각할 성향이 없던 사람들은 그런 것들을 결코 생각하지 않을 것이다. 오히려 나는 지금 그 시스템들에 대해 훨씬 더 많이 생각한다, 왜냐하면 나는 그것들을 에이전트의 탐색 공간을 기술하는 방법으로 보기 때문이다 ... 그리고 아마도 미래에는 에이전트 잠재 표현을 구조화하는 도구로까지 볼 수 있을 것이다.

그래서 나는 시점을 돌려보라고 제안한다: 그렇다, 아마도 인간 소비를 위해 이런 것들을 생각하는 게 말이 안 된다는 생각을 받아들여라 ... 하지만 대신 프로그래밍 언어와 컴파일러 설계를 탐색 공간을 통제하는 도구로 생각하면 어떨까, 그러면 갑자기 이것들에 대해 생각할 새로운 방법이 많이 생긴다.

이것이 가치 있는 사고 방식일까? 나는 [...]

나는 이번 주 초에 몇몇 수학자들의 의견에 대한 응답으로 매우 유사한 주장을 하는 블로그 글을 썼다—며칠 전 OpenAI 논문이 나오기 직전에 (https://creating.software/essays/ai-and-math/).

우리 모두가 동시에 깨닫고 있는 것 같다: (1) 지적 활동은 공동체적이며, 그럼에도 (2) 그 공동체는 개인의 성취에 대한 인정으로 유지된다. 이런 걸 알게 되는 방법이라니.

나는 (여기서 그리고 내 글에서) 인류는 실제로 이런 인간 공동체 없이는 발전할 수 없다고 주장한다. 사람들이 AI가 자신보다 더 잘 아는 것들을 배우기를 포기하지 않는 것이 중요하다, 왜냐하면 그들은 이런 공동체에서 중요한 역할을 하고, 공동체는 결정적이기 때문이다.

나의 (어쩌면 순진한) 희망은 여전히 사람들이 체스처럼 재미로 이런 것들을 계속할 방법을 찾는다는 것이다 (대회, 상, 코치, 뭐 그런 것). 컴퓨터가 체스를 훨씬 더 잘하고 오래전부터 그랬음에도 우리는 여전히 체스 대회 같은 것을 가지고 있다. 공동체와 개인 성취에 대한 인정이 둘 다 거기에 있다. 그리고 인간 체스와 체스 엔진은 엄청나게 발전했으므로, 컴퓨터의 지배는 체스의 발전을 죽이지 못했다 (오늘날의 stockfish는 1994년의 데스크톱에서 실행되는 1997년의 카스파로프를 이겼을 것이다: https://www.lesswrong.com/posts/4MLBK7iCW3vYd93Mn/a-closer-l...)

어쩌면 수학 올림피아드와 프로그래밍 대회는 실용적 유용성이 끝난 훨씬 뒤에도 살아남을지도 모른다—나는 항상 그것들을 좋아했다.