AI 회의론자 에드 지트론의 예측은 얼마나 정확했나?

나는 Altman, Amodei 등의 유사한 예측 목록과 그중 얼마나 실현되었는지에 대한 주석을 보는 데 관심이 있을 것이다. Ed Zitron은 허풍선이이고 자주 과장해서 진지하게 받아들이기 어렵게 만들지만, AI 업계 지도자들도 마찬가지다.

나는 화이트칼라 일자리의 종말이 '단 6개월 남았다'거나 최신 Mythos/Fable/Whatever 모델을 사용하지 않는 사람은 절망적으로 뒤처질 것이라는 숨 가쁜 보도 자료를 여러 번 들었다.

지트론은 자신이 비판하고 조롱하는 AI 부스터들의 왜곡된 반영이 되었다.

그에게 일어난 최악의 일은 AI 회의론이 정치적 입장이 된 것이라고 생각한다. 이것은 그에게 충성스러운 청중을 제공했다. 그가 그들이 듣고 싶어 하는 말을 하는 한, 즉 그가 자신이 틀렸을 수도 있고 AI가 실제로 진보하거나 성공하고 있을 수도 있다는 것을 결코 인정할 수 없다는 것을 의미한다.

이것은 장기적으로 좋은 예측에 도움이 되지 않는다. 오히려 선택한 적이 동시에 무시무시할 정도로 강력하고 무능한 바보여야 하는 인지 부조화 상태로 이끈다. 선전가의 병이다.

거품이 아직 터지지 않았지만, 게시물에서 논의되지 않은 다음 사항을 본다: 지트론은 (다른 사람들도 그랬듯이) 많은 하이퍼스케일러가 Anthropic, OpenAI에 대한 가치 평가 증가를 '기타 수익'으로 계상하고 있으며, 이는 그들의 보고된 수익과 이익을 상당히 증가시키고 있다고 지적할 것이다. 대략 다음과 같다:

- Google, Meta, MSFT 같은 하이퍼스케일러가 현금을 Anthropic, OpenAI에 투자하여 지분을 얻는다.

- 지속적인 투자는 실제로 Anthropic/OpenAI의 가치 평가를 높이고(새로운 자금 조달은 더 높은 가치 평가로 이루어짐), 따라서 하이퍼스케일러의 기존 투자 가치가 증가하여 분기 실적에서 기타 수익으로 기록된다.

- 투자된 현금의 상당 부분은 순환적으로 하이퍼스케일러에게 수익으로 돌아올 것이다. Anthropic과 OpenAI가 데이터 센터 등을 통해 많은 돈을 쓰기 때문이다.

기타 수익 현상에 대해서는 예를 들어,

https://www.ft.com/content/be97df0a-76b1-4cb0-9ba4-d1117d8d1...

또한, 대차대조표 밖 부채가 상당히 많은 것으로 보인다. 예를 들어

https://www.ft.com/content/a0a07cce-6d19-4b1e-a73b-9855a06ba...

이 댓글들에서 내가 관찰하는 한 가지는 사람들이 자신의 예측을 Ed의 진술에 투영하여 타당성을 검증하려는 경향이다. 예를 들어, '나는 그가 시기에 대해서는 틀렸다고 생각하지만 AI 회사들이 파산할 것이라고는 기대한다.'

그렇게 할 수 있지만, 그러면 더 이상 그의 예측을 논의하는 것이 아니다. 당신은 당신의 예측과 당신 자신의 입장을 논의하는 것이다.

그것은 Dan의 에세이와 다르다. Dan의 에세이는 2024년과 2025년 동안 Ed의 수많은 예측의 문자 그대로의 텍스트와 대면하며, 그 예측들은 측정 가능한 결과로 명백히 무효화되었다.

나는 지트론이 정확히 틀렸다고 생각하지 않는다. 그는 단지 너무 이르다. 지난 10-15년 동안 같은 비판에 직면한 분석가들이 많이 있다. 내 생각에 문제는 그들이 그 기간 동안 정부의 재정 및 통화 개입의 엄청난 규모와 범위를 이해하지 못한다는 것이다. 본질적으로 정부는 단기 결과를 반복적으로 구하기 위해 모든 위험을 미래로 밀어 넣었다.

나는 예를 들어 Amodei의 AI로 인한 대량 실업 예측에서도 비슷한 일이 일어나고 있다고 생각한다. 즉각적으로 일어나지는 않을 것이다. 왜냐하면 재정 적자 지출이 기업들이 인력을 줄일 경제적 유인을 제거하기 때문이다.

그렇긴 하지만, 나는 이 사람들이 '틀렸다'고 생각하지 않는다. 그들은 단지 이르다. 이 모든 것이 잘못될 때, 그것은 큰 문제가 될 것이다. 그리고 예를 들어 인터넷 광고로 돈을 버는 것이 주 업무인 회사들은 그들의 제품이 얼마나 저가치인지 현실과 마주하게 될 것이다. 나는 그러한 회사에서 일하기 때문에 이에 대한 통찰력이 있다. 그리고 그곳의 봇 트래픽의 실제 규모를 알고 있다.

철저하고 정확한 것은 주식 시장에서 많은 돈을 벌게 할 수 있지만, 미디어에서 존재감을 얻는 좋은 방법은 아니다. 왜냐하면 그것은 사람들 앞에 자주 서는 것을 요구하고, 기본적으로 아무도 그날의 모든 주제에 대해 통찰력 있고 잘 조사된 상태를 유지할 수 없기 때문이다. 정치든 기술이든 전문가가 되고 시선을 먹고 살게 되면, 당신은 형편없는 예측을 던지게 될 것이다. 그리고 그 시점에서, 당신은 그냥 어떤 청중과 편을 들고 예측을 정확하게 하는지에 대해 너무 신경 쓰지 않는 것이 나을 수도 있다.

우리는 항상 다음 경기 침체가 임박했다고 말하는 사람들을 가지고 있다. 다른 사람들은 NFT가 예술의 미래에 핵심이라고 말했다. 그것이 전문가의 방식이다. 정확성을 원한다면, Charlie Munger처럼 되어 경력 동안 정말 좋은 통찰력을 2, 3개 정도 가지고, 그 통찰력을 전문가가 아니라 자신이 직접 사용하여 잘하기를 바라는 것이다.

> 그가 쓴 게시물 중 내가 읽은 것들은 숫자가 나오긴 하지만, 그 숫자들이 실제로 일관된 논증에 연결되지 않는다. 많은 경우, 위에서 보았듯이, 숫자들은 그의 주장을 실제로 뒷받침하지도 않는다(예: 페이스북의 MAU 감소가 메타의 재정 문제를 일으키고, 그로 인해 메타가 AI를 부적절한 곳에 우연히 삽입하게 될 것이라는 주장). 나는 그가 사람들이 숫자를 보면 눈이 흐릿해지고 숫자가 의미하는 바에 대해 생각하지 않는 것에 의존하고 있다고 의심한다.

Ed Zitron에 대해 좌절스러운 점은 그가 때때로 뉴스를 터뜨린다는 것이다. 예를 들어 다른 누구도 가지고 있지 않은 유출된 숫자를 입수하지만, 그 숫자를 자신의 매우 편향된 논평으로 감싼다. 이것은 새로운 정보의 신뢰성을 평가하기 훨씬 더 어렵게 만든다.

> 이 회사들이 (수익과 이익 측면에서) 얼마나 빠르게 성장하고 있는지를 고려할 때, AI가 지트론이 암시한 것처럼 '성장 방법을 모르고' 아이디어가 고갈되어 손을 뻗는 일종의 필사적인 움직임인 것 같지는 않다.

성장은 유효한 반박이 아니다. 그 성장 중 얼마나 많은 부분이 AI 프로젝트의 순환 자금 조달에 묶여 있는지도 알아내지 않는 한. 우리는 엔비디아의 가치 평가 중 얼마나 많은 부분이 AI 열풍에 묶여 있는지 꽤 잘 알고 있지만, 메가스케일러의 경우는 구별하기가 조금 더 어렵다....

> 추론 스타일 측면에서, 검토된 미래학자 중 그는 아마도 Kurzweil에 가장 가깝다. 숫자를 사용하여 일종의 신뢰성의 아우라를 주지만, 그가 논의하는 주제에 대해 조금이라도 알고 있거나 숫자를 보면 추론이 무너진다.

몇 달 전 그의 게시물 중 하나에서, 그는 ServiceNow CEO가 영업 계획과 팀이 '계획대로'인지에 대해 이야기하는 것에 대해 이상한 곁가지로 빠졌다. 영업이나 그 주변에서 시간을 보내지 않은 사람들에게 이것은 할당량 추적을 위한 매우 흔한 약어이다.

Ed가 그 프레임이 얼마나 불가능할 정도로 이상하고 비인간적인지에 대한 분노는 그가 자신이 프로필을 만들고자 하는 비즈니스의 메커니즘에 대해 얼마나 거의 알지 못하고, 알고 싶어 하지 않는지를 드러냈다. 예, '계획대로'와 같은 것은 전문 용어이지만, 합리적인 언론적 호기심(구글 검색)의 조금만 있어도 그것이 무엇을 의미하고 경력 영업 CEO에게 정상적인 진술이라는 것을 설명할 수 있을 것이다.