¿Cómo podría la IA matarnos exactamente?
How, Exactly, Could A.I. Kill Us?
El matemático Jacob Coxon renunció a Anthropic advirtiendo que la IA podría acabar con la humanidad esta década. La preocupación no es nueva: Dario Amodei, Sam Altman y Elon Musk ya lo habían advertido. Recientes hackeos autónomos y avances matemáticos han vuelto el debate más real. Joshua Rothman analiza los escenarios de riesgo, desde la superinteligencia hasta el mal uso actual, y su propio P(doom) del diez por ciento.
El P(doom) es bastante bajo. Es, como, un diez por ciento. [...] Para mí se siente increíblemente aterrador, súper alto. Demasiado alto para mi tranquilidad.