AI가 설계한 슈퍼바이러스로 인류가 멸망할 거라는 주장은 과학이 아니라 종교다
I'm sorry, you're not going to die from an AI-engineered supervirus
생물학자이자 AI 단백질 설계 전문가인 저자는 Noah Smith의 AI 슈퍼바이러스 공포론을 반박한다. 바이러스 설계는 극도로 어렵고, 치명성과 전파력 사이의 근본적 트레이드오프는 AI로도 우회할 수 없다. 팬데믹 최대 피해는 에볼라 같은 극단적 치명성이 아니라 COVID처럼 중간 정도의 치명성에서 나온다. 진짜 위협은 상상 속 AI 바이러스가 아니라 현실의 홍역이다.
AI가 광범위하고 값비싼 기초 과학 실험을 거치지 않고 스스로 이 문제를 풀 수 있다고 믿는 사람들은 과학의 영역을 떠나 종교라고밖에 부를 수 없는 곳에 들어선 것이다.
HN 토론
116- janalsncm
> 사람들이 AI가 광범위하고 값비싼 기초 과학 실험을 먼저 거치지 않고도 스스로 이걸 알아낼 수 있다고 믿는다면, 그들은 과학의 영역을 벗어나 종교라고밖에 부를 수 없는 곳으로 들어간 것이다.
이 말에 강하게 동의한다. 너무 많은 사람들이 아서 C 클라크의 그 명언에 뇌가 감염되어 있다.
과학의 많은 부분은 물리적 세계에 의존하며, 제1원리로부터, 즉 머리로 열심히 생각해서 결정될 수 없다. (미안하다 플라톤, 생각만으로 달에 갈 수는 없다.) 점점 더 정밀한 측정이 필요하고, 그건 점점 더 복잡한 도구를 의미하며, 그건 다시… 공급망을 의미한다. 과학에는 공급망이 필요하다. 마법에는 필요 없다.
- jsnell
북미 원주민들은 유럽인 정착 첫 세대에 전염병으로 인해 인구 사망률이 95% 정도였지 않나? 홍역, 천연두, 독감 등등.
그 질병들로 인한 사망률이 오늘날보다 높았던 이유는 인구가 전혀 면역이 없었기 때문이며, 이는 더 높은 전파율과 더 높은 사망률 둘 다로 이어졌다. 이는 인위적으로 설계된 바이러스에도 마찬가지로 적용될 것이다.
그리고 그것은 단 하나의 바이러스가 아니라, 한 대륙 전체의 전염병 무기가 겹치는 파도처럼 밀려든 것이었다. 다시 말해, 피해를 극대화하려 한다면 할 만한 짓이다.
그래서 바이러스가 이런 효과를 낼 수 없다는 기사 내용 대부분은 그다지 설득력이 없다.
- woopwoop
글쓴이는 COVID와 같은 전파 특성을 가지면서 독성이 더 높은 바이러스를 만드는 것이 생물학적으로 불가능하다고 주장하는 것 같다. 그런 주장을 하기 위해 어떤 원리를 들먹이는지 이해가 안 된다.
- Footnote7341
모두 모여서 서로 등 두드리며 자축하고 있지만, 천연두는 대륙 하나를 인구 절멸시켰다. 전파력이 높고 치명적인 바이러스가 존재할 수 있다는 건 명백하다.
- Metacelsus
글쓴이가 인위적으로 설계된 바이러스로 대량 학살을 일으킬 방법을 생각해내지 못한다고 해서, AI도 그 방법을 생각해내지 못할 것이라는 뜻은 아니다.
(글쓴이가 고려하지 않은 생물학적 위협이 몇 가지 있다. 그쯤에서 줄이겠다.)
- colingauvin
세상에, 정말 고맙다.
기술 업계 사람들과 경제학자들이 생물학에 대해 떠드는 걸 듣는 게 얼마나 지겨운지 말로 다 할 수가 없다.
- 01284a7e
"우주가 어떤 사회에 제기할 수 있는 문제들은 실용적인 목적에서 보면 그 수가 무한하고 종류도 끝이 없다." - 조지프 테인터
AI는 정말로 우주가 더 많은 문제를 만들어내는 데 도움을 줄 것이다. 어쩌면 초바이러스는 아닐지도 모르지만, 이런, 어쩌면 그럴 수도 있다.
- gerdesj
최후의 심판 병기는 환멸에 빠진 십 대가 COVID-19 변이(그게 무슨 뜻이든)를 만들어 사람들에게 뿌리는 게 아닐 것이다.
진짜배기는 바이러스를 가지고 장난치는 실험실이 필요하고, 몇 년 전에 무슨 일이 있었든… 그리고 그것은 인류를 멸망시키지 않았다.