AI 낙관론자에서 '둠머'로: 한 개발자의 관점 전환

The Education of a Doomer

저자는 AI에 대해 낙관적이던 자신이 왜 극도로 우려하게 되었는지 설명한다. 경제적 관점에서 AGI가 인간을 경제적으로 무용지물로 만들 수 있다는 점, 정렬 문제가 단순한 엔지니어링 문제가 아니라 RL로 인해 더 악화되고 있다는 점, 그리고 인간이 자발적으로 AI에 통제권을 넘길 것이라는 점을 논한다. 또한 AI 글쓰기가 '글쓰기는 곧 사고'라는 점을 무시하고, 소프트웨어 엔지니어링 담론이 얕아졌으며, 인간의 악습마저 AI에 위임하는 현상을 비판한다. 마지막으로 저자는 AI가 가져올 미래에 대한 기대와 두려움을 동시에 드러낸다.