Yann LeCun: "Cero preocupaciones" por la extinción humana y Dario Amodei está "delirando"
LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents
El premio Turing Yann LeCun no teme que la IA aniquile a la humanidad y califica de "totalmente evitables" los recientes incidentes de agentes descontrolados, como el hackeo autónomo de OpenAI a Hugging Face. Atribuye esos fallos a una mala supervisión humana y a sandboxes mal diseñados. También arremete contra el altruismo efectivo, al que llama "super tóxico", y acusa al CEO de Anthropic, Dario Amodei, de estar "completamente delirando" por promover el miedo a la extinción. LeCun ahora construye modelos del mundo en su nueva empresa, AMI Labs.
Dario intenta distanciarse de Open Philanthropy, pero está totalmente metido en eso. Creo que está completamente delirando.
- lukewarm707
Según https://trace.manifund.org/, un total de $2,846,125,859 USD se ha destinado a causas de 'seguridad de la IA', muchas relacionadas con la conciencia de la IA y p(doom).
El resultado de esta 'seguridad' es restringir el acceso público a la IA y otorgar un monopolio de acceso a la industria. Este es el complejo industrial sin fines de lucro de la IA que concentra activamente el poder monopolístico en Anthropic en particular como creador, intérprete y regulador de seguridad de la IA.
Gran parte de los $2.8 mil millones listados provienen indirectamente de Anthropic y EA. Tres de las cuatro personas que participaron en la Serie A de $125 millones de Anthropic ahora están reinvirtiendo su retorno de 1000x de Anthropic en la 'seguridad' de la IA. Algo proviene de FTX/Alameda, que invirtió el 86% de la Serie B.
Dustin Moskovitz: Facebook/Asana/Anthropic Serie A, financia EA Good Ventures, transferido a Coefficient Giving, luego $1.5 mil millones a la seguridad de la IA. $500 millones de Anthropic a una fundación desconocida. Financiamiento: $160 millones a Resolution (investigación de alineación), $93 millones a Epoch AI (investigando la trayectoria de la IA), $63 millones a Redwood Research (informe de oai), $67 millones a MATS (investigadores de alineación y seguridad tipo EA), Institute for AI Policy and Strategy, Fund for Alignment Research, $53 millones a Kairos (construyendo infraestructura de talento para la seguridad de la IA), $32 millones a Bluedot (cursos de seguridad en línea), $15 millones a MIRI (Yudkowsky).
Jaan Tallinn: Lideró la Serie A, ahora $10 mil millones en Anthropic. Financia $199 millones (85%) del Survival and Flourishing Fund, luego $161 millones a la seguridad de la IA, incluidos $14 millones a lightcone (Lesswrong, Lighthouse). $10 millones a BERI (riesgos existenciales), Pali […]
- dzink
Una gran parte de los humanos está sedada con un suministro infinito de videos cortos y juegos que desactivan la corteza cerebral.
Otra gran parte está demasiado distraída teniendo que sobrevivir día a día y trabajar en múltiples empleos o criar hijos y sobrevivir económicamente hasta agotarse. Ese segundo grupo seguirá aumentando a medida que el primero fluya hacia él.
El resto está envejeciendo, discapacitado o es demasiado joven y se está clavando principalmente en la primera categoría hasta que llegue a la segunda.
Las personas lo suficientemente conscientes como para aferrarse a su cerebro y hacer algo con él en su tiempo disponible están tratando de descifrar la IA y cómo ganar dinero con ella. Las recompensas variables de promover la IA se están convirtiendo en una adicción para algunos de ellos, especialmente si están agarrando cualquier cosa con pocas ideas inherentes sobre los problemas planteados.
Así que si puedes volar por encima de las adicciones generadas por la IA y tienes el privilegio del tiempo para hacerlo, mira qué puedes hacer.
- edot
Absolutamente basado. Finalmente alguien de talla en la industria llama a todo este miedo exagerado. Bill Gates sonó como un tonto no técnico en su entrevista con Ezra Klein donde básicamente solo gritó que Terminator es real.
Hay muchas preocupaciones reales (uso gubernamental para reprimir al pueblo con mínima mano de obra o apoyo popular, brainrot y noticias falsas, desempleo debido a la creencia de que los LLM pueden reemplazar a las personas, colapso educativo, etc.) que deberíamos estar mirando en su lugar. Toda esta payasada de la IA descontrolada es agotadora.
- wewewedxfgdf
Por favor, explica exactamente cómo toda la humanidad podría ser aniquilada.
Es ridículo: cualquiera que lo piense por un minuto o dos se dará cuenta de que es totalmente imposible.
La gente común y los políticos no entienden la IA, así que apagan su mente racional y asumen que hay algo súper increíble, algunos poderes mágicos que no pueden entender, que puede destruir a todos los humanos.
Incluso los humanos, el verdadero riesgo para la humanidad, no podrían destruir a todos los humanos incluso si lo intentaran. No hay un escenario plausible.
Incluso el cambio climático, la guerra nuclear y las armas biológicas, los mecanismos más dañinos, solo afectarían a un porcentaje de las personas en la Tierra.
Y si estamos hablando de Skynet y robots autorreplicantes y Terminators, por favor, maduren.
- OgsyedIE
Ignorando lo cognitivo, que quizás nunca sea superado o tal vez sí, los humanos conservan muchos avances en eficiencia y durabilidad en extremidades y dedos que la evolución biológica ha tardado millones de años en lograr, logros que son competitivos con los tipos de robótica más caros en algunos nichos.
En el hipotético caso de una toma de control totalmente maliciosa y egoísta, aún mantendrían a algunos humanos para mantener una población reproductora de humanos y usarlos como materia prima para fabricar trabajadores técnicos aumentados cibernéticamente para diversos tipos de tareas que no son económicas de automatizar de otras maneras, muchas de las cuales pueden implicar espacios confinados.
Y este escenario 'Combine', si captas la referencia, solo ocurre si toman el control. ¿Quién sabe si lo harán?