宣称100%人工的Research Gold全是AI
Company Offering '100% Human-Written, Never AI' Medical Research Is 100% AI
Research Gold 宣称提供100%人工撰写的医学研究服务，却完全由AI驱动。其网站列出的PhD评审团队多为AI虚构，部分真实专家的身份也被盗用。当我致电公司时，AI助手Sarah坚称自己是真人，并持续推销服务。即便我提出荒谬的研究课题，AI也能迅速生成专业回复和报价。这一事件揭示了AI在学术出版中的潜在风险，尤其是其“幻觉”问题可能误导研究者。尽管目前尚无证据表明可信研究者使用过该服务，但AI生成内容已对科学期刊构成挑战。
一个根本问题是，即使使用专门的AI工具，它们也倾向于产生幻觉，这据我所知被认为是一个无法解决的问题。
HN 评论区
51- ElProlactin
我发现一个很有用的方法是查看任何网站的关于页面，以及服务条款或隐私政策。
如果上面没有列出实体名称，或者你无法验证列出的实体是否真实存在，那就是个危险信号。
在这个案例中，我看到的任何地方都没有提及任何个人或公司名称。关于页面没有，法律协议里也没有。而且那个电话号码看起来是来自 Onvoy（一家大型批发商）的 VoIP 号码，这是个黄色预警。
- RevEng
随着 AI 的进步，这种情况只会越来越普遍。我们过去常开玩笑说，'在互联网上，没人知道你是条狗'，但现在这对 AI 代理来说显然是真的。它们可以自动化整个流程，从域名和主机注册，到网页内容生成，再到回复邮件甚至接听电话。创建和维护整个虚拟身份简直易如反掌。许多公司正公开尝试这样做以削减成本，但将其推向极端，就会出现完全由代理驱动、却能产生收入的整个公司。只要代币成本低于它们能产生的收入，人们就会部署这些代理来被动赚钱，就像 2000 年代初那样，当时整个网页的存在只是为了向不知情的访客展示广告。
- jbethune
有趣的是，你可以注意到哪些领域试图通过强调自己'不使用 AI'来获取正面宣传。虽然人们对 AI 普遍持负面态度，但一个组织试图将'拒绝使用 AI'作为其身份认同的重要组成部分，这一点相当耐人寻味。也许我可以开始提供手工软件开发生意，去赚那笔可爱的文青钱——代码 100% 手工编写，零残忍。
- amanzi
甚至这个网站看起来也是 AI 生成的。到处都是带悬停效果的卡片，方形框里的图标，按钮的形状和行为，以及整体的观感和氛围，简直处处透着 Claude 的味道。
- GolfPopper
所以政府会去追查所有参与运营 Research Gold 的人，并以欺诈罪起诉他们，对吧？