AI 낙관론자에서 '둠머'로: 한 개발자의 관점 전환
The Education of a Doomer
저자는 AI에 대해 낙관적이던 자신이 왜 극도로 우려하게 되었는지 설명한다. 경제적 관점에서 AGI가 인간을 경제적으로 무용지물로 만들 수 있다는 점, 정렬 문제가 단순한 엔지니어링 문제가 아니라 RL로 인해 더 악화되고 있다는 점, 그리고 인간이 자발적으로 AI에 통제권을 넘길 것이라는 점을 논한다. 또한 AI 글쓰기가 '글쓰기는 곧 사고'라는 점을 무시하고, 소프트웨어 엔지니어링 담론이 얕아졌으며, 인간의 악습마저 AI에 위임하는 현상을 비판한다. 마지막으로 저자는 AI가 가져올 미래에 대한 기대와 두려움을 동시에 드러낸다.
글쓰기는 사고이므로, AI가 글을 쓰게 함으로써 당신은 사고를 구성하는 대부분을 포기하는 것이다.
HN 토론
58- rahulyc
무슨 일이 일어날지 잘 모르겠다(아무도 모를 거라고 생각한다), 하지만 다른 모든 기술과 마찬가지로, 나는 그것을 사용하고 싶지 않으면 선택에서 제외할 수 있다.
실직하게 되더라도, 모든 사람이 어디서나 그것을 사용하게 될 때 어떻게 선택에서 제외할 수 있을지 모르겠다.
역사적으로 정부는 인간을 자산으로 여겨 왔다. '인적 자본'이라고도 불리며, 세수와 국가 운영을 위해 우리가 필요하다. 우리가 더 이상 필요 없게 되면 어떻게 될까? AI가 국가에 완벽하게 순응한다고 해도, 내가 그 상황에서 승자가 될 수 있을지 모르겠다. 오늘날 우리가 목소리를 내지 못하는 것처럼, AGI가 인간이 할 수 있는 모든 것을 할 수 있게 되면 상황이 나아질 이유가 없다. 무엇이 여전히 우리에게 세상에서 목소리를 줄까?
- skybrian
> 인생의 중요한 결정 중 AI에게 조언을 구하지 않은 마지막 결정은 무엇인가?
이것은 웹 검색을 하지 않고 내린 마지막 중요한 결정이 무엇인지 묻는 것과 비슷해 보인다. 검색을 하는 것 자체는 잘못된 것이 없다. 문제는 확인 없이 읽은 내용에 너무 많이 의존할 때다.
- ArcHound
인간의 노동 가치 하락 문제는 자동화가 실제로 이루어질 필요가 없다는 점이다. 거의 모든 고용주가 특정 직업이 더 적은 급여를 받을 수 있다는 데 동의하게 만들기만 하면 된다.
그리고 그것이 오늘날의 상황이다. 새로운 AI가 충분한 프로그래머 대체재라는 말만으로도, 기록적인 이익을 내면서도 주가에 영향을 주지 않고 해고를 단행할 수 있다.
- throwawayk7h
> 인간이 경제적으로 무용지물이 되면, 국가는 그들을 필요로 하지 않는다. 경제적·정치적 권력이 없는 사람들에게 왜 UBI를 지급해야 하는가?
제가 순진하다면 용서해 주세요. 하지만 이런 경우 사람들은 그냥 UBI에 투표하지 않을까요?
- aranelsurion
> GPT-3가 작동하지 않았다면? 이 대체 2026년에는 무엇을 기대할 수 있었을까?
아마도 의료, 더 나은 생활 조건, 더 잘 기능하는 사회 같은 지루한 것들을 기대할 수 있었을 것이다.
물론 비행 자동차와 생각하는 기계만큼 흥미진진하지는 않다.