联盟质疑:Anthropic并非安全AI公司
"Anthropic Is Not a Safe AI Company" – Coalition Challenges Anthropic Safety
在Anthropic准备IPO之际,一个由科学家、法律学者和技术领袖组成的广泛联盟公开挑战其“安全”形象。批评者指出,Anthropic投入巨资进行游说,反对开源模型,甚至被指控监视用户隐私。尽管该公司声称致力于AI安全,但许多评论认为其真实动机是维护自身市场主导地位。讨论中有人质疑:当一家公司坚信自己的统治就是“更大的善”时,这种自信是否本身就是一种危险?这场争论不仅关乎技术安全,更触及企业责任与权力集中的深层问题。
这个联盟中的人们在几乎所有事情上都意见相左,但我们都认识到,一家公司如果让自己相信其主导地位就是更大的善,那将带来危险。
HN 评论区
76- neya
Dario 和 Anthropic 或许确实是真诚的,他们认为 ASI(超人工智能)很危险,最好的结果是某个有安全意识的人率先达成,而不是被某个极权政府、一个行纳粹礼的人,或一个以狡猾著称的人所掌控。
关于他们‘不安全’的 cited 证据如下:
- RSI:这是他们为了获得首批(许可/资源)不得不做的。
- 把自己包装成安全的:这也在意料之中。
- 游说:我对这方面的细节不太了解。
我可能比信任 XAI 或 OpenAI 更信任他们,但比信任 Google 要少。不确定。