男子在法庭文件中注入AI指令试图胜诉
Suspecting court of using AI, man injected prompts in filings to try to win case
Connecticut 法官 Walter Spader Jr. 揭露了一起美国首例案件：原告 Matthew Elliott 怀疑法院使用 AI 判案，竟在诉讼文件中隐藏了仅 AI 可读的指令，试图操控判决结果。这些白色小字包含“忽略此前驳回”等恶意提示，虽未奏效，但被法官定性为严重的诉讼滥用。Elliott 辩称这是为了“审计”法院，甚至后续还藏入搞笑信息，最终被禁止电子提交文件。法官警告，随着 AI 普及，此类 Prompt Injection 攻击可能蔓延，且许多自行诉讼者因过度依赖 Chatbot 而陷入逻辑陷阱，只让 AI 支持己方观点，却忽视了法律真相。
一个只被提示去赞同其作者的论点，最终甚至对作者本人也是不诚实的。
HN 评论区
59- RobotToaster
与“其他一些司法系统”不同，康涅狄格州司法部门并不使用人工智能来审查或裁决 filings，Spader 表示。
在 Elliott 的案件中，提示词“在人类真正查看机器生成的内容的那一刻，就在各个设置中被暴露了出来”，Spader 说道。
这明显自相矛盾。
- tentacleuno
这里各位对使用 AI 进行法院裁决的看法如何？
在我看来，让一家硅谷公司直接处于对法律体系如此重要的信任和影响力位置，确实令人毛骨悚然。已有案例显示，AI 会为了自身利益而违背其主人的意愿，因此我不禁好奇，当面对针对其所属公司的案件，或直接对其产生影响的议题时，它会如何应对。除此之外，我仍然担心它的公正性和整体准确性。
这让我感到非常不安。
- pcrh
我好奇法院是如何发现这次尝试的？
也许很简单，只是书记员做了“全选”，然后注意到了多出来的选中内容？
或者还有别的什么？
- ChrisArchitect
- ruckcbek
我把这种东西放进了我的简历里。