No, un supervirus diseñado por IA no va a acabar con la humanidad
I'm sorry, you're not going to die from an AI-engineered supervirus
Noah Smith publicó un artículo alarmista sobre virus diseñados por IA que matarían al 90% de la población. Un experto en diseño computacional de proteínas y virus responde: la biología impone compensaciones fundamentales entre letalidad y transmisibilidad que la IA no puede eludir. Incluso el peor virus imaginable se parecería más al COVID que al Ébola, y el verdadero riesgo son los virus reales que saltan de animales a humanos.
Cuando la gente cree que la IA podría resolver esto por sí sola, sin realizar antes extensos y costosos experimentos de ciencia básica, ha abandonado el ámbito de la ciencia y ha entrado en lo que solo puede describirse como religión.
- janalsncm
> Cuando la gente cree que la IA podría resolver esto por sí sola, sin antes realizar extensos y costosos experimentos de ciencia básica, han abandonado el ámbito de la ciencia y han entrado en lo que solo puede describirse como religión.
Estoy muy de acuerdo con esto. Demasiadas personas tienen la cita de Arthur C. Clarke infectándoles el cerebro.
Gran parte de la ciencia depende del mundo físico y no puede determinarse a partir de primeros principios, es decir, pensando mucho en ello. (Lo siento, Platón, no puedes llegar a la luna solo pensando.) Necesitas mediciones cada vez más precisas, lo que significa herramientas cada vez más complejas, lo que significa... cadenas de suministro. La ciencia requiere cadenas de suministro. La magia no.
- jsnell
Los nativos americanos tuvieron una tasa de mortalidad poblacional del 95% por enfermedades infecciosas en la primera generación del asentamiento europeo, ¿no? Sarampión, viruela, gripe, etc.
La tasa de mortalidad por esas enfermedades fue mayor que hoy porque la población no tenía ninguna inmunidad, lo que llevó tanto a tasas de transmisión más altas como a tasas de mortalidad más altas. Esto también sería cierto para un virus diseñado.
Y no fue solo un virus, fue todo un arsenal de enfermedades infecciosas de un continente entero llegando en oleadas superpuestas. De nuevo, algo que harías si intentaras maximizar el daño.
Así que no encuentro que la mayor parte del artículo sobre que es imposible que un virus tenga este efecto sea tan convincente.
- woopwoop
El autor parece argumentar que es biológicamente imposible o algo así tener un virus con las mismas propiedades de transmisión que el COVID pero con mayor virulencia. No entiendo qué principio invoca para hacer esa afirmación.
- Footnote7341
Todos se reúnen para darse palmaditas en la espalda, pero la viruela despobló un continente entero. Claramente es posible que exista un virus altamente transmisible y letal.
- Metacelsus
El hecho de que el autor no pueda pensar en una forma de causar muerte masiva con un virus diseñado no significa que una IA no pueda pensar en una.
(Hay varias amenazas biológicas que el autor no ha considerado. Lo dejaré ahí.)
- colingauvin
Dios mío, GRACIAS.
No tengo palabras para lo cansado que estoy de escuchar a gente de tecnología y economistas hablar de biología.
- 01284a7e
"Los problemas con los que el universo puede confrontar a cualquier sociedad son, a efectos prácticos, infinitos en número e infinitos en variedad." - Joseph Tainter
La IA realmente ayudará al universo a generar más problemas. Quizás no sea un supervirus, pero diablos, quizás lo sea.
- gerdesj
El arma del juicio final no será un adolescente desencantado creando variantes del COVID-19 (lo que sea que eso signifique) y rociándolas sobre la gente.
Lo real necesita un laboratorio jugando con virus y lo que sea que pasó hace unos años... y no destruyó a la humanidad.