Si una IA resuelve la superconductividad o el cáncer, deberíamos temer lo que hará con un virus
Watch AI materials-science and bioscience abilities closely
Yair Halberstadt sostiene que el riesgo existencial inmediato no es una superinteligencia con tiempo ilimitado, sino un LLM con habilidades irregulares que diseñe un virus sin necesidad de iterar en un laboratorio. La clave está en observar sus capacidades en ciencia de materiales y biología: si logra avances que requieren un solo ejemplo exitoso, como un superconductor a temperatura ambiente o una cura contra el cáncer, deberíamos preocuparnos seriamente por su potencial para crear un supervirus. Si no puede, quizá debamos enfocarnos en evitar que acceda a un laboratorio.
Si los LLM de frontera son capaces de resolver de un solo intento los superconductores a temperatura ambiente, o curas para el cáncer, deberíamos estar extremadamente preocupados por lo que harán con un virus.