微软：垃圾邮件者滥用ASCII smuggling
Microsoft says email spammers are adopting ASCII smuggling
一种曾用于攻击AI的隐蔽技术ASCII smuggling，如今被垃圾邮件发送者大规模采用。微软发现，利用Unicode中的不可见字符，攻击者能绕过基于文本和ML模型的垃圾邮件过滤器。这些字符对人类不可见，但LLM能识别，从而在邮件中隐藏恶意指令或触发词。今年2月，相关检测量从日均2.1万激增至250万，随后在5月回落。微软指出，这种技术不仅规避了字符串匹配，更挑战了现代基于NLP的垃圾邮件分类系统，因为标准分类器在分词时可能无法正确识别被不可见字符打断的关键词。
因为标签字符对人类不可见但在文本处理层面存在，这一特性既使其能向模型走私指令，也使其能在检测器评估前混淆关键词。
HN 评论区
25- CrimsonRain
几个月来，我不断收到来自 "Paypal" <[email protected]> 的垃圾邮件，而微软（Outlook）却对此无能为力。这已经超出了他们的能力范围。
- gschizas
为什么不在把文本送入垃圾邮件过滤器（或 LLM 提示词）之前，先对其进行清理和反规范化（或者不管它叫什么）？
- k12sosse
作为一个 [email protected] 的持有者，未经过滤的垃圾邮件其实并不像以下情况那样普遍：
a) 网站在未经核实我是否亲自输入的情况下，就将我加入分发列表或邮件列表，
b) 有人要么不小心把我的地址变成了他们的，要么就是记错了一部分地址。
这些邮件来自世界各地。我收到了南美洲银行账户的信息、迪士尼员工音乐版税收入税务披露和表格、欧洲订阅在线平台的邮件、AWS 账户恢复选项、Studio City 的兽医记录，以及 Mountain View 私立学校/PTA 领导网站的访问权限。
我试过退回未拆封的邮件，但没人理会。
我对这些邮件一概置之不理，因为我不是个大傻瓜，但各位，请让用户在你们信任他们之前先验证他们的电子邮件地址。