나는 Jev에 감명받았습니다. 왜 그러면 안 되는지 설명해 주세요
I was impressed by Jev, please explain why I shouldn't be
저는 컴퓨터 과학 전공자는 아니지만 Jev를 사용해 보고 인상 깊었습니다. 비기술 연구자들이 참가자 입력을 사전 훈련이나 분류 없이 거의 즉각적이고 저렴한 비용으로 분류할 수 있게 해 주었습니다. 하지만 Hacker News에서는 Jev가 사기이거나 퇴보라고 말하는 더 전문가들이 많습니다. Jev 이전에 이런 소프트웨어가 있었는지, 그리고 제가 왜 감명받으면 안 되는지 알고 싶습니다. 구체적으로: 임의의 주제로 수천 개 항목을 높은 신뢰도로 분류하고, 0-3초 내에 처리하며, 0.1센트 미만의 비용으로 가능한 소프트웨어가 있었나요?
제가 이해하기로는 기반 기술은 꽤 오래되고 잘 확립되어 있습니다. 그래서 그 오래된 모델들을 이해한다면 이건 새로운 소식이 아닙니다. 많은 부정적 반응은 기본적으로 '그래, 이건 오래된 거야'입니다. 하지만 Jev가 실제로 새롭고 흥미로운 점은 런타임에 자연어로 새로운 의미 결정을 정의하고, 해당 작업을 위해 모델을 훈련하지 않고도 빠르고 저렴하며 경계가 정해진 확률 결과를 소프트웨어가 직접 소비할 수 있게 해준다는 것입니다. 다시 말해, 모델을 반드시 미세 조정할 필요는 없습니다. 초고품질이 정말 중요하다면 해야 하지만, 다른 LLM 용도에도 마찬가지입니다. 하지만 '충분히 좋으면 충분하다'고 생각하고 모델 훈련이나 미세 조정에 관심 없는 나머지 사람들에게 Jev는 많은 것을 바로 사용할 수 있게 해줍니다. 당신은 감명받아야 합니다. 비판자들이 시사하는 것보다 더 새로운 일을 하고 있습니다.
많은 비난은 유명한 Hacker News 댓글이 Dropbox를 '그냥 FTP 서버를 설정하면 된다'며 폄하한 것과 같은 정신입니다. 여기서는 BERT 분류기를 수년간 만들어 온 사람들이 '그냥 모델을 미세 조정하면 분류할 수 있다'고 지적하는 것입니다. 물론 사실이고 여전히 가치가 있지만, 그것은 턴키 방식이 아닙니다. 그리고 Jev는 그것이 만들어진 목적에 놀라울 정도로 높은 품질을 보입니다.
과거에 '사람들이 저걸 돈 주고 사? 그런데 xyz가 이미 있는데?'라고 자주 말했지만, 시간이 지나면서 (1) 마케팅이 중요하고 (2) 어떤 것이 마찰을 충분히 줄여서 달성하려는 일의 바퀴를 돌리게 한다면, 자체적으로 구성한 솔루션이나 많은 손질이 필요한 정말 좋은 솔루션보다 측정 가능하게 더 나쁘더라도 기꺼이 비용을 지불할 사람들이 (실제로 많은 사람들이) 항상 있다는 것을 배웠습니다.
Jev 이전에 이걸 하던 소프트웨어는 텍스트 분류를 위한 BeRT, BART, FLAN-T5입니다. 그 모델들은 모두 약 5년 된 것이고, transformer 모델 기반이며, 로컬에서 실행할 수 있을 만큼 작습니다. 완벽한 SOTA는 아니지만 임베디드 애플리케이션에서 꽤 잘 수행합니다. 낮은 위험의 작업에는 충분하다고 생각합니다. 이미지 분류기는 매우 경쟁적인 분야입니다. BeiT, DeiT, MobileOne, ConvNext, FastViT 등 이미지 분류 파이프라인을 지원하는 여러 모델이 있습니다.
새로운 기술에 흥분해도 됩니다.
William Gibson이 말했듯이, 미래는 이미 여기에 있습니다. 단지 고르게 분포되어 있지 않을 뿐입니다. 그래서 사람들은 기존 기술이 자신에게 새롭기 때문에 흥분합니다. 기존 기술을 새 포장으로 감싸는 것은 새로운 사람들에게 소개하는 흔한 방법입니다... ffmpeg, html2pdf 등을 감싼 많은 래퍼들이 제품으로 마케팅됩니다. 그리고 그것들은 마법처럼 보입니다... 1973년에 카세트 플레이어를 가졌음에도 카세트 테이프는 제게 마법처럼 느껴집니다. 종종 그렇지만 항상 그런 것은 아니지만, 최고의 도구는 손에 있는 도구이거나 알고 있는 도구입니다. 그러면 하려는 작업을 바로 할 수 있습니다. 먼저 작동하게 만들고, 그 다음 좋게 만드세요. 행운을 빕니다.