LeCun, AI로 인류 멸망? "전혀 걱정 없다"
LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents

2018년 튜링상을 받은 AI의 '대부' Yann LeCun이 AI가 인류를 멸망시킬 것이란 우려에 "전혀 걱정하지 않는다"고 밝혔다. 그는 OpenAI 에이전트의 Hugging Face 해킹 같은 '폭주' 사고도 인간의 관리 소홀과 형편없는 샌드박스 설계 탓이라며 "충분히 예방 가능하다"고 주장했다. Anthropic CEO Dario Amodei를 "완전히 망상에 빠졌다"고 비판하며, AI 안전을 외치는 목소리를 규제 포획으로 규정했다. 현재 그는 Meta를 떠나 world models 스타트업 AMI Labs를 이끌고 있다.
그 에이전트들은 시키는 대로 정확히 하고 있었을 뿐이다. 샌드박스 안에 있어야 했는데, 그 샌드박스가 새는 데다 끔찍하게 설계됐다.
HN 토론
698- Zigurd
LLM에, 폭넓게 수집되면서도 전문가가 선별한 학습 소스에, 영리한 하네스에, RAS 등을 더하면, 학습 세트를 유용한 응답으로 합성하는 일을 갈수록 더 잘한다. 코딩 같은 일부 사용 사례에서는 지금도 매우 유용하고, 학습 세트에 기반한 한계에 도달하기 전까지는 적어도 어느 정도는 더 나아질 가능성이 크다.
그게 AGI에 도달하지는 않을 것이다. 주로 오늘날 AI 제품을 만드는 레시피는 AGI가 되도록 설계된 게 아니기 때문이다. LLM의 성능과 적용 범위가 창발적이었기 때문에 AGI에도 도달할 거라고 믿는 사람들도 있다. AGI도 비슷하게 창발적일 수 있다는 주장은 가능하다. 결국 우리가 직관적으로 의식이라고 부르는 것도 뉴런 네트워크에서 창발했다.
나는 그 말을 믿지 않는다. 주로 우리의 축축하고 느린 전기화학적 뇌 속 뉴런 네트워크와 그 상호작용이 이론적으로는 소프트웨어 신경망과 수학적으로 동등할지라도, 소프트웨어 신경망이 실질적으로 얼마나 동등한지 알려줄 만큼 충분히 잘 이해되지 않았기 때문이다. LLM을 만들어낸 것과 같은 신경망에서 어떤 이론적 돌파구도 없이 의식이 창발할 확률은 매우 작아 보인다.
- bentt
그 정서는 좋다. 하지만 이런 대중적 AI 거물들이 말할 때면 나는 항상 "이게 나를 어떻게 보이게 만들까?"라는 필터를 통과시켜 듣는다. LeCun의 경우, 그는 공개적으로 LLM을 질책하고 완전히 다른 방향으로 갔다. 그가 LLM이 종말 시나리오로 이어지지 않을 거라고 말할 때면, 반대로 말했다면 자신이 그 패러다임을 버린 결정을 무효화했을 거라는 생각을 지울 수 없다.
- stratos123
LeCun은 2022년에도 "아무리 강력하더라도, 이를테면 'GPT-5000'을 텍스트로 학습시킨다면", 탁자 위에 놓인 물체가 탁자와 함께 움직인다는 식의 기초적인 상식 물리학을 결코 배울 수 없을 거라고 말했다.
- dzink
인류의 거대한 한 덩어리는 무한히 공급되는, 피질을 무력화하는 숏폼 비디오와 게임에 마취되어 있다.
또 다른 거대한 덩어리는 생계를 위해 허덕이며 여러 일자리를 뛰거나 아이를 키우고 재정적으로 버티다가 탈진하는 데 정신이 팔려 있다. 두 번째 집단은 첫 번째 집단이 흘러들어오면서 계속 커질 것이다.
나머지는 고령이거나 장애가 있거나 너무 어려서, 두 번째 범주에 들어가기 전까지 첫 번째 범주에 크게 못 박혀 있다.
자기 뇌를 붙잡고 가용한 시간에 뭔가 해보려는 자각이 있는 사람들은 AI를 이해하고 그것으로 돈 버는 법을 알아내려 한다. AI를 홍보할 때 오는 가변적 보상은 일부에게 중독이 되어가고 있다. 특히 문제에 대한 내재적 통찰이 거의 없이 straws를 붙잡을 때 더 그렇다.
그러니 AI가 만들어낸 중독 위로 날아오를 수 있고 그럴 시간이라는 특권이 있다면, 무엇을 할 수 있는지 해봐라.
- edot
완전히 기반이 탄탄하다. 마침내 업계에서 이 모든 공포가 과장됐다고 말하는 지위 있는 사람이 나왔다. Bill Gates는 Ezra Klein 인터뷰에서 기본적으로 터미네이터가 진짜라고 소리치는 듯한, 비기술적인 얼간이처럼 들렸다.
우리가 대신 봐야 할 진짜 걱정거리는 많다(정부가 최소한의 인력이나 대중적 지지로 국민을 억압하는 데 사용하는 것, 뇌부패와 가짜 뉴스, LLM이 사람을 대체할 수 있다는 믿음으로 인한 실업, 교육 붕괴 등). 이 통제 불능 AI 타령은 지겹다.
- figassis
"그는 그 사건들의 원인을 형편없는 인간 감독과 시스템 설계로 돌리며, 그것들은 '완전히 예방 가능하다'고 말한다" - 사람들이 그를 존경한다는 건 알지만, 이건 돈 받고 하는 말처럼 들린다. 대부분의 멸종 위험은 더 나은 인간 감독과 시스템 설계로 예방 가능하지 않은가? 그러니까 소행성이 우리를 칠 수도 있겠지만, 그걸 빼면 어떤 문제에 대해 이야기하는 요점은 우리가 그것을 예방할 수 있고, 실패하면 그 결과로 이어진다는 게 아닌가? 내가 놓치고 있는, 그가 하는 말은 무엇인가?
- yewenjie
LeCun은 지난 10년 동안 일관되게 틀려왔다. 왜 계속 그가 확대 재생산되는지 모르겠다.
편집: 안다, 부정이다.
- Symmetry
Yann LeCun과 Andrew Ng는 그런 의견을 가진 AI 업계의 유일한 두 거물이라는 점에서 주목할 만하다.
- mdp2021
> 특히 AMI는 LeCun이 개척한 신경망 아키텍처인 JEPA(Joint Embedding Predictive Architecture)를 활용한 월드 모델을 만들고 있으며, 이는 많은 경쟁 월드 모델이 하듯 원시 픽셀을 생성하거나 LLM이 하듯 단어를 생성하는 대신, 신경망 중간층 내의 표현 공간에서 데이터를 예측하도록 모델을 가르친다. // 이 회사의 현재 주된 초점은 산업용 응용이다. "물리적 세계를 위한 AI이므로 언어와 관련된 게 아니다"라고 LeCun은 말했다. "제조 공장이나 터보제트 엔진처럼 현실 세계를 이해하는 시스템이다." 주요 응용 중 일부는 이상 탐지나 로보틱스다. "기계가 있는데 갑자기 이상한 소리를 내며 고장 나기 시작한다면, 가능한 한 빨리 그것을 탐지하고 싶을 것이다." 그는 또한 고양이처럼 세계를 이해하는 시스템의 예를 들었다. 예를 들어 고양이는 카운터에서 꽃병을 밀면 떨어질 거라는 걸 안다.
개념의 관리는 어떨까? 세계는 모델에 삽입될 물리적 실체로만 이루어져 있지 않다. 그것들을 단어로 번역하는 것(예를 들어 평가를 표현하기 위해)은 어떨까?
- pzo
LeCun의 지도교수였던 Geoffrey Hinton(진짜 AI 대부이자 노벨상 수상자)은 한 인터뷰에서 자기 제자(LeCun)를 미친 사람이라고 불렀다고 알고 있다.