从乐观到担忧：一个AI悲观者的自白

The Education of a Doomer

我曾对AI充满期待，认为自动化会像过去一样带来繁荣。但如今，我的观点彻底转变了。在经济学层面，AGI可能导致人类彻底失去经济价值，进而丧失政治话语权；在对齐问题上，强化学习让模型能力激增却更难理解，严重偏离人类价值观。更可怕的是，我们正主动将控制权拱手让给AI，从写作到软件工程，人类正在放弃思考，将ChatGPT当作神谕。当连愤怒和争论都被自动化取代，我们剩下的只有停滞。