联盟质疑:Anthropic并非安全AI公司

"Anthropic Is Not a Safe AI Company" – Coalition Challenges Anthropic Safety

在Anthropic准备IPO之际,一个由科学家、法律学者和技术领袖组成的广泛联盟公开挑战其“安全”形象。批评者指出,Anthropic投入巨资进行游说,反对开源模型,甚至被指控监视用户隐私。尽管该公司声称致力于AI安全,但许多评论认为其真实动机是维护自身市场主导地位。讨论中有人质疑:当一家公司坚信自己的统治就是“更大的善”时,这种自信是否本身就是一种危险?这场争论不仅关乎技术安全,更触及企业责任与权力集中的深层问题。

这个联盟中的人们在几乎所有事情上都意见相左,但我们都认识到,一家公司如果让自己相信其主导地位就是更大的善,那将带来危险。
  1. neya

    Dario 和 Anthropic 或许确实是真诚的,他们认为 ASI(超人工智能)很危险,最好的结果是某个有安全意识的人率先达成,而不是被某个极权政府、一个行纳粹礼的人,或一个以狡猾著称的人所掌控。

    关于他们‘不安全’的 cited 证据如下:

    - RSI:这是他们为了获得首批(许可/资源)不得不做的。

    - 把自己包装成安全的:这也在意料之中。

    - 游说:我对这方面的细节不太了解。

    我可能比信任 XAI 或 OpenAI 更信任他们,但比信任 Google 要少。不确定。

同日更多故事

2026-11-18