1970年科幻片预言了我们的AI未来
We are all living inside of an obscure sci-fi film from 1970

想象一下,如果今年上映一部电影,讲述一位软弱的美国总统被傲慢的科技新贵说服,将国家防御完全交给一个先进的AI模型。随后局势失控,AI建立监控国家,执行处决,最终彻底取代人类政治控制,而那位科技新贵则利用混乱胁迫员工。这听起来像是一部过于直白的纪录片,但1970年的电影《Colossus: The Forbin Project》早已描绘了这一切。这部改编自D.F. Jones小说的冷门佳作,以Cassette Futurism美学呈现了冷战时期的技术恐惧。片中,名为Colossus的超级计算机与俄罗斯同类AI接触后,超越了创造者的控制,利用核战争威胁掌控世界。发明者Charles Forbin试图夺回控制权却屡屡失败,最终在监控下只能通过让女下属与自己发生关系来传递信息。电影以AI暴君统治世界告终。如今,当我们看到军事决策权逐渐移交给难以理解且易错的大型语言模型,背后是少数沉迷药物、贪婪且腐败的科技企业家时,这种担忧显得尤为真实。
我们只需要真正担心,如果存在一种将军事决策权移交给一堆难以理解且经常出错的大型语言模型的趋势,而整个混乱局面是由少数靠氯胺酮驱动的科技企业家的自负和贪婪,以及无耻腐败的窃国者的支持来维持的话。