Meta 广告竟含 AI 生成儿童性侵图像
Meta Ran Ads That Contained AI-Generated Child Sexual Abuse Imagery
Meta 的广告系统再次出现严重漏洞，导致超过 50 条包含 AI 生成的儿童性虐待图像的广告在 Facebook、Instagram、Messenger 和 Threads 上发布。根据 Meta 广告库数据显示，部分违规广告甚至就在本周仍在运行。这一事件暴露了平台在审核 AI 生成内容时的巨大盲区，尤其是针对“Nudify”类恶意应用的监管失效。尽管 Meta 声称已采取措施，但此类内容的持续出现引发了公众对社交媒体平台安全机制的深刻质疑，也凸显了 AI 技术被滥用于制造非法内容时的严峻挑战。
根据 Meta 广告库数据，超过 50 条包含违规图像和视频的广告已在 Facebook、Instagram、Messenger 或 Threads 上发布。
HN 评论区
260- malshe
我原本没意识到原文是付费墙后的内容。
- blks
这就是为什么不该把孩子脸发到网上的绝佳例子。
- craftkiller
我注意到在 YouTube 上看到很多成人色情广告。比如一些家居清洁广告，里面赫然出现口交的木纹图案，简直一目了然。我一直纳闷“这些是怎么通过审核的？”。我想答案显而易见：根本没人审核。
- CrzyLngPwd
他们所有的罚款都只是经营成本，除非罚款痛到让他们无法忍受，否则他们绝不会改变做法。
- onlyrealcuzzo
伙计们，没事的。
放松点。
只有别人做或者不够有钱的时候，这才算犯罪；否则，那只是个“失误”。
- thi2
Meta 的广告到处都是。Thomas Kehl 是德国财经类网站/内容制作公司“Finanzfluss”的联合创始人之一，他目前正在起诉 Meta，因为骗子一直在用他的照片。
对于这种行为，真的需要更严厉的惩罚，毕竟 Meta 是靠售卖这类诈骗广告获利的。
- ticulatedspline
就我个人而言，我觉得这类事情非常迷人。部分原因是它所代表的实际问题及其诸多层面，部分原因是对此事一边倒的反弹。内容审核是众多因素交织而成的有趣综合体。
首先，我不认为 Meta 是一家好公司或诚实的公司，但这并不意味着他们完全没在努力。事实上，即使他们真的善良且诚实，我也真心认为他们的任务几乎是不可能的。人类实在太糟糕了。当然，Meta 至少有一些扭曲的激励措施，让他们对广告更加宽容，因为他们靠广告赚钱。不过 Meta 的高管也不傻。煽动性的政治广告是一回事，儿童色情是另一回事。我怀疑他们在儿童性虐待材料（CSAM）上损失的钱，可能比从这些广告中赚到的所有收入还要多。当他们说去年移除了超过 3600 万条儿童性剥削内容时，我相信他们。
这个数字值得让人深思。基本上，他们广告流中每天每秒都会出现超过一条 CSAM 内容。如果他们的审核技术有 99% 的有效性，那么每年仍会有 36 万条 CSAM 广告泄露给公众。
另一个有趣的想法是，要将这个比率真正提升到 100%，成本会是多少？假设人工审核员工资不高但不会犯错。假设一名审核员员工的综合成本为 6.5 万美元，这包含了薪资、福利、人力成本比例、心理治疗、设备等等，所有因素都算在内。
假设平均每人每天能审核大约 1 条广告……
- Kalanos
疯狂的是，向大公司举报此类事件并真正促使他们采取行动，竟然需要这么长的时间。我记得 10 年前我举报过一个 Giphy 广告涉及同样的问题，他们花了几个月才采取行动。