Yann LeCun: "Cero preocupaciones" por la extinción humana y Dario Amodei está "delirando"

LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents

Yann LeCun: "Cero preocupaciones" por la extinción humana y Dario Amodei está "delirando"

El premio Turing Yann LeCun no teme que la IA aniquile a la humanidad y califica de "totalmente evitables" los recientes incidentes de agentes descontrolados, como el hackeo autónomo de OpenAI a Hugging Face. Atribuye esos fallos a una mala supervisión humana y a sandboxes mal diseñados. También arremete contra el altruismo efectivo, al que llama "super tóxico", y acusa al CEO de Anthropic, Dario Amodei, de estar "completamente delirando" por promover el miedo a la extinción. LeCun ahora construye modelos del mundo en su nueva empresa, AMI Labs.

Dario intenta distanciarse de Open Philanthropy, pero está totalmente metido en eso. Creo que está completamente delirando.
  1. Zigurd

    Los LLMs, más fuentes de entrenamiento ampliamente obtenidas pero curadas por expertos, más arneses ingeniosos, más RAS, etc., hacen un trabajo cada vez mejor de sintetizar su conjunto de entrenamiento en respuestas útiles. Para algunos casos de uso como la programación, eso es muy útil ahora y probablemente mejore al menos algo antes de alcanzar limitaciones basadas en el conjunto de entrenamiento.

    Eso no va a alcanzar la AGI, principalmente porque la receta actual para productos de IA no está construida para ser AGI. Algunas personas creen que alcanzará la AGI porque el rendimiento y la aplicabilidad de los LLMs fueron emergentes. Hay un argumento que se puede hacer de que la AGI podría ser igualmente emergente. Después de todo, lo que intuitivamente llamamos nuestra conciencia emergió de una red de neuronas.

    No lo compro, principalmente porque la red de neuronas y cómo interactúan en nuestros cerebros húmedos y lentos electroquímicos, aunque en teoría son matemáticamente equivalentes a una red neuronal de software, no se entienden lo suficientemente bien como para decirnos qué tan cerca está la red neuronal de software de ser prácticamente equivalente. Las probabilidades de que la conciencia emerja de la misma red neuronal que nos dio los LLMs sin algún tipo de avance teórico parecen muy pequeñas.

  2. bentt

    Me gusta el sentimiento, pero cuando escucho hablar a estos grandes tipos de la IA de cara al público, siempre lo paso por el filtro de "¿Cómo me hace ver esto?". En el caso de LeCun, él amonestó públicamente a los LLMs y se fue en una dirección radicalmente diferente. Cuando dice que los LLMs no llevarán a un escenario de fin del mundo, no puedo evitar pensar que decir lo contrario invalidaría su decisión de abandonar el paradigma.

  3. stratos123

    LeCun también dijo allá por 2022 que "si entrenas una máquina, tan poderosa como pueda ser, tu 'GPT-5000', con texto", nunca podrá aprender física básica de sentido común como que los objetos colocados sobre mesas se moverán junto con ellas.

  4. dzink

    Una gran parte de los humanos está sedada con un suministro infinito de videos cortos y juegos que desactivan la corteza cerebral.

    Otra gran parte está demasiado distraída teniendo que sobrevivir para ganarse la vida y trabajar en múltiples empleos o criar hijos y sobrevivir económicamente hasta agotarse. Ese segundo grupo seguirá aumentando a medida que el primero fluya hacia él.

    El resto está envejeciendo, discapacitado o es demasiado joven y se está clavando mayormente en la primera categoría hasta que llegan a la segunda.

    Las personas lo suficientemente conscientes como para aferrarse a su cerebro y hacer algo con él en su tiempo disponible están tratando de descifrar la IA y cómo ganar dinero con ella. Las recompensas variables de promover la IA se están convirtiendo en una adicción para algunos de ellos, especialmente si están agarrando pajas con pocas ideas inherentes sobre los problemas planteados.

    Así que si eres capaz de volar por encima de las adicciones generadas por la IA y tienes el privilegio del tiempo para hacerlo, mira qué puedes hacer.

  5. edot

    Absolutamente basado. Finalmente alguien de talla en la industria diciendo que todo este miedo está exagerado. Bill Gates sonó como un payaso no técnico en su entrevista con Ezra Klein donde básicamente solo gritó que Terminator es real.

    Hay muchas preocupaciones reales (uso gubernamental para suprimir al pueblo con mínima mano de obra o apoyo popular, podredumbre cerebral y noticias falsas, desempleo debido a la creencia de que los LLMs pueden reemplazar a las personas, colapso educativo, etc.) que deberíamos estar mirando en su lugar. Toda esta payasada de la IA descontrolada es cansina.

  6. figassis

    "Atribuye los incidentes a una pobre supervisión humana y diseño de sistemas, y dice que son 'totalmente prevenibles'" - Sé que la gente lo respeta, pero esto suena como alguien pagado para decir esto. ¿Acaso la mayoría de los riesgos de extinción no son prevenibles con mejor supervisión humana y diseño de sistemas? Quiero decir, puede caernos un asteroide, pero fuera de eso, ¿no es el punto de hablar de un problema que podemos prevenirlo, y fallar en hacerlo lleva a eso? ¿Qué está diciendo que me estoy perdiendo?

  7. yewenjie

    LeCun ha estado consistentemente equivocado durante los últimos diez años, no estoy seguro de por qué sigue siendo amplificado.

    Edición: Estoy seguro, es negación.

  8. Symmetry

    Yann LeCun y Andrew Ng son notables por ser los únicos dos grandes nombres en IA que tienen esa opinión.

  9. mdp2021

    > En particular, AMI está construyendo modelos del mundo que aprovechan JEPA (Joint Embedding Predictive Architecture), una arquitectura de red neuronal que LeCun fue pionero y que enseña a los modelos a predecir datos en un espacio de representación dentro de las capas intermedias de una red neuronal, en lugar de generar píxeles en bruto, como hacen muchos modelos del mundo competidores, o palabras, como hacen los LLMs. // El enfoque principal de la compañía, por ahora, son las aplicaciones industriales. "Es IA para el mundo físico, así que no está relacionada con el lenguaje", dijo LeCun. "Son sistemas que entienden el mundo real, como una planta de fabricación o un motor turbojet." Algunas de las principales aplicaciones son la detección de anomalías o la robótica: "Si tienes una máquina y de repente hace un ruido extraño y empieza a romperse, habrías querido detectarlo lo antes posible." También dio el ejemplo de un sistema que podría entender el mundo como lo hace un gato, por ejemplo, que sabe que si empuja un jarrón fuera del mostrador, caerá.

    ¿Qué hay de la gestión de conceptos? El mundo no está hecho solo de entidades físicas para insertar en un modelo. ¿Qué hay de su traducción a palabras (para, por ejemplo, expresar evaluaciones)?

  10. pzo

    Geoffrey Hinton (el verdadero padrino de la IA y ganador del Premio Nobel), quien fue supervisor de LeCun, llamó a su estudiante (LeCun) el loco en una entrevista que yo sepa.

Más de este día

2026-10-03