从词袋模型到Jev：文本分类的进化史
Language models for text classification: From bag-of-words to Jev
最近Jev在技术圈引发了热议，很多人把它简单视为“又一个分类器”，但我的观点在几天内发生了巨大转变。从最初认为“分类器是我的老本行，我随时能自己写”，到后来惊叹“它的效果远超预期”。本文回顾了文本分类技术的演变：从早期的Bag-of-Words结合朴素贝叶斯，到Logistic Regression，再到RNN、LSTM以及ULMFiT等深度学习方法。虽然GPT等通用大模型也能处理分类任务，但Jev在速度和成本上具有独特优势。它既不是简单的文本分类器，也不完全等同于通用大模型，而是在特定场景下实现了极佳的平衡。
我的想法从“分类器是我的老本行，我随时能自己写”转变为“哇，它的效果真的比我想象的还要好”。
HN 评论区
10- Topfi
评估很到位，基本符合我在公告发布后的预期。
当时很多人脑子一热，不加思考地引用各种说法，声称这能带我们走向 AGI、实现系统 1、做到“零幻觉”等等；而另一拨人则忽视了其广度和新数据，对比现有分类器看不到任何可能的优势，这种两极分化确实发人深省。那些游戏演示尤其有害，我反复听到有人坚称 Jev 必须支持近乎实时的视觉输入，因为那些炫酷的 Doom、Minecraft 等展示中，几乎没人解释那是基于游戏状态（game state）实现的。
炒作真的是这个行业最糟糕的一面。
- nzoschke
很棒的文章。这完全符合我的感受：
> 就像 2022 年的 ChatGPT 之所以令人兴奋，是因为它是一个能生成各种文本的通用聊天模型；同样，技术社区对 Jev 感到兴奋的原因在于，它是分类领域的 ChatGPT 时刻——它能以低廉的成本对各类文本输入进行分类，而无需为每个任务微调一个自定义分类器。
我们一直在比较几种邮件分类策略，Jev 看起来很有前景。我在这里比较过一些策略：https://housecat.com/blog/classifying-email
- jacek-123
写得真好。我一直习惯从旧式语言模型开始向人们解释 LLM，然后说明只是把预测器从词袋模型（bag-of-words）替换成了 Transformer 等等。我觉得这种叙述框架很酷。