AI가 실온 초전도체를 한 번에 설계한다면, 바이러스도 두려워해야 한다
Watch AI materials-science and bioscience abilities closely
LessWrong의 Yair Halberstadt는 AI가 인류를 멸망시킬 수 있는 경로로 engineered virus를 꼽지만, 단기적으로 더 중요한 것은 약간 더 똑똑한 LLM이 그런 일을 할 수 있는지 여부라고 주장한다. 복잡한 바이러스 설계에는 반복 실험이 필요하므로, AI가 실온 초전도체나 암 치료제를 한 번에 찾아낸다면 바이러스 위협 모델을 심각하게 고려해야 한다. 반대로 그렇지 못하다면 DNA 합성 회사에 슈퍼바이러스 설계도를 이메일로 보내는 시나리오보다 장기적인 실험실 접근을 막는 데 집중해야 한다고 제안한다.
만약 최전선 LLM이 실온 초전도체나 암 치료제를 한 번에 만들어낼 수 있다면, 우리는 그들이 바이러스로 무엇을 할지 극도로 걱정해야 한다.