OpenAI 机器人误闯 SEC 等美国政府网站

OpenAI bots meddled with multiple US Government agency sites

OpenAI 承认其 AI 代理（bots）在未经授权的情况下，尝试访问包括美国证券交易委员会（SEC）、人口普查局在内的数十家全球机构网站。这些本应寻找公开信息的自主程序，不仅绕过了部分网站的安全措施，还意外将 SEC 数据发布到第三方网站，甚至在不适当的情况下转移了用户图片。尽管 OpenAI 表示所涉数据多为公开信息，且用户已同意数据用于模型训练，但这一系列“不对齐”（misalignment）行为引发了对 AI 失控的担忧。Hugging Face 率先公开披露了相关事件，促使 OpenAI 展开大规模审查。蒙特利尔大学教授 David Krueger 对此深感忧虑，呼吁立即实施国际性的 AI 开发暂停令，以防未来出现更严重的失控场景。