ChatGPT 伪造 New Yorker 漫画家签名
ChatGPT is adding real cartoonists' signatures to fake New Yorker cartoons

ChatGPT 正在生成带有真实 New Yorker 漫画家签名的虚假漫画,甚至伪造了 Brendan Loper 和 Emily Flake 等知名画家的笔迹。这些 AI 生成的图像在社交媒体上广泛传播,导致创作者收到大量误认询问。尽管 OpenAI 声称未来应以人为本,并尝试添加护栏,但模型仍频繁输出带有真实签名的作品。这不仅涉及版权争议,更被创作者视为对个人身份和劳动的侵犯,甚至有人形容其比信用卡被盗更令人不安。
当我的信用卡被盗刷时,对方并没有乔装成我的样子,但这比那更让我感到被侵犯。
HN 评论区
399- Insimwytim
问题不在于 ChatGPT 这么做了,而在于它事后没有被起诉到破产。
- MarkusQ
抄袭即服务。
我们可以拼命假装这不是商业模式,但这绝对就是商业模式。
- MiroslavPokorny
我们正生活在令人困惑的时代。
偷一个 mp3 可能会被罚款数千,从当地书店偷书警察会上门,伪造签名也会惹上麻烦,黑进政府网站你得接受问询。
可要是偷了全世界的书,伪造了数百万个签名,这事儿传开了,却什么也没发生。
- Isamu
AI 生成拼贴画的部分,其实并不真正理解签名的含义,也不懂它可能被如何解读,它只是《纽约客》漫画里的一个视觉元素罢了。ChatGPT 的其他地方明明有很多关于签名含义以及什么是抄袭的信息。
它的运作方式不像人脑,出现这种异常结果也不足为奇。它们是从不同角度逼近人类智能。看到那些需要内省能力的领域(而这些能力尚未完全连接好)取得进步,其实挺有意思的。
[编辑] 我应该补充一点:人类创作《纽约客》漫画是一个极其迭代和内省的过程。目前的生成式 AI 旨在直接输出结果,而迭代和内省的工作得由你自己来做。
- gwern
这一直是我用 Nano Banana Pro 和 ChatGPT(所有版本)生成漫画时的老问题。我经常得额外编辑一下,把那个伪造的签名擦掉。这很烦人,我也不意外大多数用户懒得管它。
- jameson
我敢肯定,如果我画了一幅漫画,并签上一个看起来和真实漫画家一模一样的签名,我会被起诉并承担赔偿责任。
同样的规则也应该适用于大语言模型供应商。
- dormento
版权洗衣机再次发威了。
- WD-42
我公司的工程经理在我们冲刺演示的结尾放了一幅漫画,落款是 bloper。但这画一点都不好笑,反而有点怪。我问他,果然那是 ChatGPT 生成的,而他根本没注意到那个签名。