AI 모델이 사람을 죽이는 게 아니다, 사람이 사람을 죽인다
AI models don't kill people – people kill people
Anthropic 연구원 Jacob Coxon이 AI가 인류를 멸망시킬 수 있다며 사임하고, 동료 Evan Hubinger도 10% 이상의 확률로 인류 멸종을 우려한다고 밝혔다. 그러나 이 글은 진짜 위험이 모델 자체가 아니라 책임 없이 AI를 배포하는 기업에 있다고 주장한다. 기후 변화로 인한 연간 25만 명 사망, AI 챗봇 관련 수십 건의 사망 등 현실의 피해를 지적하며, Volkswagen 배기가스 조작 사건처럼 임원을 형사 처벌해 모델 안전성을 확보하자고 제안한다.
만약 AI 모델이 Anthropic 직원들이 말하듯 정말로 위험하고 통제 불가능하다면, 그들이 초래한 피해에 대해 사람들에게 책임을 물어야 한다.
HN 토론
69- mattlondon
AI가 우리 모두를 죽일 확률 10%... 하지만 인간이 모든 인간을 죽일 확률은 얼마나 될까? 우리가 평화로운 전례 없는 시대에 살고 있는 것도 아니다. 지금 당장 제대로 된 핵 교환이 일어날 확률이 10% 이상이라고 장담하겠다.
이 모든 것에 대해 어떻게 느껴야 할지 모르겠다. 물론 나쁜 AI가 몇 가지 일을 망칠 수도 있다. 하지만 AI는 그러한 일이 애초에 가능하게 만드는 소프트웨어 오류를 찾아내고 방지할 수도 있다.
그리고 궁극적으로, 나쁜 AI가 인터넷을 장악해서 우리가 "잠겨" 있더라도, 우리는 데이터 센터가 어디에 있는지 알고 있다. AI가 대규모로 작동하려면 데이터 센터 규모의 전력, 냉각, 칩 등이 필요하다는 것을 알고 있으니 합리적으로 "탈출"할 수 있는 게 아니다. 만약 그런 상황이 온다면, 데이터 센터로 가는 광섬유를 자르거나 전력을 차단해서 발전기가 디젤이 떨어져 멈추게 하면 AI는 말 그대로 죽는다.
- onraglanroad
제출자인 Bender "모든 인간을 죽여라" Rodriguez가 이 문제에 대해 완전히 중립적이라고는 생각하지 않는다.
- _ache_
좋아, 그럼 OpenAI가 자사 서버에 대한 사이버 공격에 대해 RubyGem에 보상할 건가?
- jaydeepg
그럼 AI를 무기처럼 다룬다면, 마침내 기술 CEO들에 대한 신원 조회를 하게 되는 건가?
- skeledrew
드디어, 이성의 목소리다.