AI 버블은 존재하지 않는다? 5조 달러 지출에도 수익성은 이미 증명됐다

현재 AI의 역량을 보면, 프런티어 모델이 활용될 수 있는 잠재력이 정말 많음에도 아직 적용되지 않고 있다는 느낌이 듭니다. 대부분의(어쩌면 전부일지도 모르는) 프로그래머와 수학자들은 각자의 분야에서 좋은 하네스를 갖춘 AI 군집보다 못하며, 비용도 훨씬 더 많이 듭니다.

이건 이상한 결론입니다. 제가 알기로 수학에서는 기사에서 말하는 것처럼 아직 작동하지 않습니다. 문제가 있고, 에이전트 군집을 그 문제에 투입하고, 완료로 표시하는 식이요. OpenAI와 Anthropic의 수학 성과는 알려진 문제들의 표면에 씨앗을 뿌리고 해법을 무작위로 키워보는 방식으로 이뤄졌습니다. 실제로 좋은 해법을 몇 개 얻긴 했지만, 그렇다고 현재의 LLM이 임의의 수학 문제에도 통할 거라는 뜻은 아닙니다.

제가 틀렸다면 정정해 주세요. 저는 수학을 공부하는 학생일 뿐이고 결코 연구자는 아닙니다.

프로그래밍 부분에 관해서는, 저자는 자동화된 해법에는 좋은 하네스가 필요하다고 이미 말한 것 같고 그건 맞습니다. 하지만 제 경험상 좋은 하네스를 만드는 건 어렵고, 현재 에이전트는 인간이 면밀히 안내하지 않고서는 이를 할 수 없습니다. 그리고 LLM 이전의 프로그래밍 실무에서는 하네스가 전혀 필요 없었거나 아주 일부만 필요했습니다. 그래서 LLM으로 프로그래밍 문제를 푸는 것은 이 작업의 상당 부분이 자동화될 수 있더라도 LLM 없이 하는 것보다 더 많은 일을 수반합니다.

기사의 나머지는 대체로 LLM이 정말로 루프 안의 인간을 대체할 수 있다는 전제에 근거한 추측처럼 보이는데, 현재로서는 그렇지 않은 것 같습니다.

> 이윤은 크게 성장할 수 있다

이윤이 언급되지만 그 다음에는 매출만 논의됩니다. 매출 != 이윤입니다. 매출은 성장할 수 있죠. 하지만 실험/토큰 극대화 단계는 끝나가고 가격 경쟁이 시작되었으니, 이윤 상승에 대해서는 잘 모르겠습니다. AI 랩들이 반드시 마진을 확보할 수 있을지는 모릅니다(>>중국<<). 대부분의 마진을 확보하는 건 기업이나 소비자일 수 있습니다. 그렇다면 버블이 있는 겁니다. 바로 조 단위 밸류에이션을 가진 AI 랩들에요. 그리고 그들은 바닥을 향한 경쟁에 빠질 수도 있습니다. BigTech는 대체로 버블이 아니며, 조정을 견디고 기존 사업으로 돌아갈 겁니다.

이것이 버블인지에 대한 전체 전제는 LLM이 단순한 다음 토큰 예측 기계 이상이 될 수 있는지에 달려 있습니다. 추론 에이전트, 에이전트 군집 등을 추가해 본질적으로 다음 토큰을 예측하는 것일 뿐인 결과를 향상시킨다 해도, 이 기술은 핵심적으로 여전히 다음 토큰만 예측합니다. AGI가 아니며, 근본적인 무언가가 바뀌지 않는 한 결코 그렇게 되지 않을 겁니다. 코딩, 수학, 기타 분야에서 보았듯 이 기술에는 분명 가치 있는 응용이 있습니다. 하지만 여전히 많은 데이터를 받아들여 다음 토큰을 예측하는 것 이상은 아닙니다.

한편, 주요 기술 기업들은 처음에 기존 매출의 현금 흐름으로 이 구축을 자금 조달했습니다. 이것이 정당화되기 어려워지자, 그들은 문자 그대로 이 비용을 직접 장부에 올리지 않기 위해 회사들을 세웠고, 이 회사들은 궁극적으로 손실을 안고 실패하도록 설계되었습니다. 하지만 이 실패 단계에 도달해 부채와 의무를 채무불이행하기 전에, 그들은 월스트리트의 범죄자들에게 가서 모기지 담보 증권과 크게 다르지 않게 구조화된 금융 상품을 설계했습니다. 또한 기존 사업의 "AI" 측면이 확장됨에 따라, 핵심 사업이 창출하는 전통적 매출을 잠식하는데, 기억하자면 이것이 바로 처음에 모든 부채를 정당화하는 데 쓰인 원래의 담보입니다. 이제 이 핵심 기술 기업들은 "AI"에서 이겨야 합니다. 그것이 궁극적으로 무엇을 의미하든, 구축에 따른 부채를 갚을 뿐 아니라 기존 사업을 대체하기 위해서도요. […]

반대 방향을 가리킨다고 생각하는 큰 위험 신호들:

- anthropic IPO 재평가

- 오픈 모델과 클로즈드 모델 사이의 파레토 프런티어 격차가 매달 줄어듦

- SpaceX의 실망

- 클로즈드 토큰의 주요 소비자인 기업 구매자들이 푼돈을 위한 오픈소스 경쟁에 밀려나고 있음

- 일자리 상실과 신입 채용 붕괴

- 현재 데이터센터 계약 부채의 대규모 할인

- 소비자용 오픈 웨이트 모델 효율성의 지속적 개선

- 중국과의 군비 경쟁

- 정부가 개입해 보조금을 지급하도록 강제할 수도 있는 급격한 하향 나선의 가능성

제가 뭔가 놓친 게 있을까요?

인프라가 처음 구축할 때만 비싸다는 주장에는 설득되지 않습니다. 하드웨어는 영원히 가지 않습니다. 특히 데이터센터에서는요. 유지보수는 공짜가 아니고, 전기 요금이 크게 싸질 것도 아닙니다. 모델이 더 효율적이 된다면 엄청나게 비싸고 방대한 하드웨어 구축은 필요 없을 겁니다. 모델이 계속 더 강력해지고 더 많은 걸 요구하며 하드웨어에 제약을 받는다면, 각각의 새 하드웨어 세대는 전력 효율 면에서 이 비싸고 곧 구식이 될 하드웨어를 모두 밟아버릴 것이고, 그러면 이미 부채를 진 플레이어들이 감당하기 어려울 또 한 번의 대규모 자금 조달이 필요해집니다.

네, 사람들은 예전 방식으로 돌아가기를 꿈꾸고, 인공지능에 관해서는 돌이킬 수 없는 발걸음이 이미 떠졌습니다. 하지만 사회의 특정 부문이 경제적으로 부유해지는 동안, 인류는 돌이킬 수 없는 사회학적 파괴를 향해 나아가고 있습니다.

비유하자면, 종말론적 영화에서 사람들이 서로를 잡아먹는 장면처럼, 우리는 종으로서 암울한 종말을 향해 가고 있습니다.

이거 읽을 가치가 있나요? 아니메 아바타 때문에 물어봐야겠습니다. 그것만으로도 저자를 강하게 신뢰할 수 없게 만드니까요.

밸류에이션이 말이 되는지는 모르겠지만, 사용성은 충분히 있고 잠재적 이윤도 마찬가지입니다. 10년에 걸쳐 보면 아마 그게 전부일 겁니다. 밸류에이션이 (조만간) 터지든 빠지든, 제 생각엔 대체로 무관합니다. 언론이 이런 지루한 결론을 듣기 싫어할 거라는 건 압니다.

추신: Matlab/물리 시뮬레이션 하는 사람이 캐나다에서 자유당 의석에 출마한다고요? 더 말해 보세요!

저는 상상력이 부족해서 더 많은 사용 사례와 누가 돈을 낼지 잘 모르겠습니다. 수학 증명에 토큰과 달러를 많이 태울 수 있습니다. 모든 소프트웨어에서 취약점을 찾는 화이트햇도 마찬가지죠. 영상 생성도요.

이메일을 처리하고, 서류를 작성하고, 예약을 잡는 개인 비서는 토큰을 많이 쓰지 않습니다.

모든 소프트웨어 개발자가 월 200달러를 내고, 모든 학자가 Matlab이나 Mathematica 라이선스에 내는 만큼 내고, 모든 YouTuber가 영상 처리에 뭔가를 내고, 모든 일반인이 TV 구독과 휴대폰 요금제에 맞먹는 구독료를 낸다면, 그것이 밸류에이션을 정당화할까요?

정부가 감시 비용을 내나요? 기업이 고객 서비스 대체와 타깃 광고에 돈을 내나요?

토큰을 많이 쓰는 몇몇 작은 범주가 있고, 전혀 많이 필요로 하지 않는 큰 범주가 있는 것 같습니다.