LLM 사용이 '인지 바이러스'처럼 퍼진다: arXiv 논문이 경고하는 전환점

사람이 다른 사람들과 시간을 보내면, 유기적으로 사고의 일부를 외부에 위임하게 된다. 그것이 팀에서의 효율성 향상이다. 결혼은 부부가 하나의 공유된 뇌의 두 반쪽이 되도록 만든다. 한 사람은 특정 인지 부하(재정, 자녀 교육 등)를 맡고, 다른 한 사람은 다른 부하(집 문제, 세금, 뭐든지)를 맡는다. 하나의 뇌로 감당할 수 있는 부하는 제한적이므로, 다른 사람과 통합하고 외부에 위임하는 것은 뇌에 자연스럽게 느껴진다. LLM은 그 부하를 감당할 인지 능력이 있는 것처럼 보이지만, 기억의 일관성이 없다. 당신은 기꺼이 어떤 작업을 덜어낼 수 있다고 가정하지만, 당신이 신뢰한 모델은 무대 뒤에서 교체되거나, 위임한 작업에 대해 훈련되거나 개선되지 않거나, 추론 제공자가 그냥 어리석게 양자화해 버린다. 그 사이에 당신은 기술을 잃고 작업은 실패한다. 물론 어떤 작업에서는 때때로 좋은 결과를 주지만, 여전히 매우 가변적이다(같은 모델이라도 요일이나 시간에 따라 다르다). 그것은 배우자라기보다는 도박과 변동 보상에 더 가깝다.

"사람들이 이 [글쓰기]를 배우면, 그것은 그들의 영혼에 망각을 심을 것이다; 그들은 기억을 사용하지 않게 될 것이다. 왜냐하면 그들은 외부의 표시에 의존하여, 더 이상 내면에서 기억을 꺼내지 않고 외부의 표시를 통해 회상할 것이기 때문이다."

-소크라테스

왜 이것이 흥미로운지 모르겠다; '인기 있는' 것이 된다면 무엇이든 '바이러스'로 규정될 수 있을 것 같다. '냉장고를 갖는 것'과 같은 것들도 포함해서 말이다. 이것이 특별한 통찰력을 주는 이유가 무엇인가?

관련 주제인 '인지 부채의 비용'에 대해 생각하게 된다. 우리가 더 이상 시스템과 인프라의 주요 부분을 이해하지 못한다는 것이 무엇을 의미하는지 정량화하기 시작할 때가 된 것 같다. 일단 정량화하면, 그것을 어떻게 해결할지 추론할 수 있다.

나는 이 개념을 이 글에서 탐구했다:

https://ljtn.github.io/epiq/blog/cost-of-cognitive-debt.html

그 표현 자체가 정말 '이디오크라시' 그 자체다.

우리의 후손들이 이 시대를 돌아볼 때 무엇을 생각할까.

그들은 노화를 해결하거나 모든 사람을 최고의 생활 수준으로 끌어올리려 하지 않았고, 세상을 연결하고 탐험하며 다른 존재를 찾는 데 관심이 없었다.

그들은 단어 계산기가 적그리스도인지 궁금해했다. 그들은 당대 최고 법정에 모여 선형 대수가 아마겟돈을 불러올지 논의하기 위해 가장 뛰어난 두뇌들을 참여시켰다.

그들은 지루한 작업을 자동화하거나 공개 도메인(소문자)의 작품 위에 무언가를 구축하려는 창의적이거나 생산적인 모든 노력을 배척했다...

그러한 어떤 탐닉도 에덴에서 큰 죄가 되었고, 아담이 우리처럼 되지 않도록 결코 얻어서는 안 되는 금단의 열매가 되었기 때문이다!

이 관점에는 사실인 측면이 있다고 생각한다. 나는 LLM을 사용하기 시작한 이후로 어떤 면에서는 프로그래밍 실력이 예전보다 떨어졌을 것이다. 하지만 나는 훨씬 더 생산적이고, 이전보다 더 다양한 소프트웨어를 작업할 수 있다. 글쓰기는 아마 사람들의 청각 기억을 약화시켰을 것이고, 계산기는 사람들의 암산 능력을 감소시켰을 것이다. 하지만 나는 그것들이 순손실이라고 생각하지 않는다. 새로운 방식에 익숙해지기 위한 약간의 적응이 필요할 뿐이다. 또한 LLM 없이 프로그래밍을 다시 시작하면 내 프로그래밍 실력이 꽤 빨리 돌아올 것이라고 생각한다. 마치 면접 준비를 하면 leetcode 실력이 빨리 돌아오는 것처럼.

이 '인지 바이러스'는 도킨스가 생각한 '밈'이라는 단어의 원래 의미와 꽤 유사하다.