AI 연구자의 사직 한 건이 불씨를 들불로 만들었다
One resignation turned the embers of AI fear into a wildfire
AI가 강력해지면서 안전을 진지하게 여기는 사람들이 늘었지만, 어떤 위험관이 대중에게 퍼질지는 예측 불가였다. Jacob Coxon의 사직 발표는 건조해진 담론 환경 속에서 대량 멸종 확률까지 거론하는 극단적 우려를 증폭시켰다. 필자는 이 사건이 AI 생태계에 해롭다고 본다. 실존적 위험보다 사이버 공격이나 바이오 리스크 같은 현실적 위험에 집중하고, 연구실의 투명성과 법적 책임을 요구해야 한다는 것이다.
두려움은 가장 단순한 이야기이며, 사람들이 눈을 돌릴 수 없는 이야기다.
HN 토론
76- qurren
저는 AI 엔지니어인데, 비슷한 감정을 느낍니다.
저도 이 모든 게 무너지기 전에 최대한 빨리 은퇴할 수 있을 만큼의 부를 축적하고, 그런 다음 이 혼란에서 벗어나 다른 곳으로 이사해야겠다는 필요성을 느껴요.
제가 그렇게 할 수 있는 유일한 좋은 방법은 AI 분야에서 계속 일하는 것뿐입니다. 제가 가진 기술로 그렇게 높은 보수를 주는 다른 일은 없으니까요.
- mcast
규제 포획(regulatory capture)의 혜택을 받는 기업이 AI에 대한 공포와 선전을 인위적으로 부추긴다는 건 몹시 수상쩍어 보입니다.
- enyone
AI 데이터센터의 전력 소비 증가와 냉각을 위한 청정수의 낭비로 인한 에너지 가격 상승은 AI에 관한 제 걱정 중 가장 사소한 것입니다.
제가 걱정하는 건 문제가 발생했을 때의 피해 규모예요.
예를 들어, 옛날에는 누군가의 전화를 도청하려면 인원 비율이 1:1이어야 했습니다. 한 명은 대화를 계속 이어가고 다른 한 명은 받아적는 식이죠. 그다음 그 기록을 해석하고 결론을 내리고, 어쩌면 다음에 뭘 할지 결정할 사람들이 더 필요했습니다. 그건 오늘날 우리가 사는 현실이 아닙니다. 오늘날의 데이터 처리 및 저장 능력은 그 비율을 1:8298979488(AI:모든 사람)로 만듭니다. 저는 그 기록들에 대해 같은 비율로 AI가 의사 결정을 내리는 세상이 오길 바라지 않습니다. 그 가능성은 분명히 곧 다가올 것 같아요.
또 다른 예로, 옛날에는 누군가 취약한 시스템을 파고들려면 인원 비율이 1:1이어야 했습니다. 한 사람이 한 번에 한 시스템만 파고들 시간을 가질 수 있었죠. 오늘날 이 행성에서 이 AI 에이전트들이 실행되는 것과 같은 네트워크에 연결된, 얼마나 많은 중요하고 취약한 시스템이 돌아가고 있는지 저는 알고 싶지 않습니다. 물론 시간이 지나면 AI를 사용해 그 취약점을 찾아내고 패치할 수 있겠지만, 문제는 해를 끼칠 수 있는 규모와 속도(모든 시스템을 한 번에 공격하는 것)입니다.
- kidder
저는 Bostrom의 Superintelligence를 포함해 많은 AI 종말론자들의 주장을 들어봤습니다.
하지만 여전히 그들을 진지하게 받아들이기 어렵네요. 이런 주장들은 합리적인 가정에서 출발하지만 그것을 터무니없이 확장합니다. 현재의 LLM은 강력하고 위험하게 사용될 수 있습니다. 몇 년간의 격동적인 변화를 받아들이는 건 합리적이죠. 하지만 그것들이 합리적으로 문명을 종말시키는 파멸로 이어진다고는 볼 수 없습니다.
AI 업계 내부의 종말론자들이 지나치게 불안한 걸까요? 아니면 제가 뭔가를 놓치고 있는 걸까요?
- neom
Bostrom의 Superintelligence는 2014년에 나왔습니다. 한번 읽어보시길 권합니다. 당시 저는 그것이 제가 접한 최고의 SF 중 하나라고 생각했고, 내 생애에 대중적 논쟁이 될 거라고는 생각하지 못했습니다. 흥미로운 점은 존경받고 지식이 풍부한 사람들이 몇 년째 TV와 주류 언론에서 이 이야기를 하고 있다는 것입니다. Jack Clark는 여러 번 의회에 섰죠. 이 특정 메시지에서 무엇이 바뀌어서 이렇게 사람들을 사로잡은 걸까요? 어젯밤 제 여동생이 저에게 메시지를 보내 물었습니다. "AI가 정말 우리를 다 죽일 수 있어? 왜 그냥 전원을 뽑으면 안 돼?" 흥미로운 시대입니다....!