Carta abierta a Dario Amodei: si lo dices en serio, abre los pesos

An open letter to Dario: if you mean it, open the weights

Carta abierta a Dario Amodei: si lo dices en serio, abre los pesos

Jacob Gold responde a la propuesta de Dario Amodei de frenar la IA frontera con evaluadores integrados y regulación. Sostiene que toda regulación termina en captura regulatoria y beneficia a los laboratorios dominantes. En su lugar, propone una ley simple: todo modelo que se ofrezca al público debe publicarse con pesos abiertos. Esto reduciría las valoraciones que financian los entrenamientos futuros y ralentizaría a todos los laboratorios a la vez, sin que ningún regulador decida nada. Un sacrificio real para Anthropic y OpenAI.

Si de verdad quieres frenar la IA frontera, pide una ley que obligue a que todos los modelos disponibles públicamente tengan pesos abiertos. No hay nada que se pueda manipular o eludir, ni siquiera para ti.
  1. Aurornis

    Esto es incoherente. El argumento parece ser que liberar los pesos ralentizaría a los laboratorios de frontera a la hora de recaudar dinero, lo que les daría menos dinero, lo que ralentizaría el progreso en IA. Asume que todos los laboratorios del mundo entero aceptan autodestruirse de esta manera y que ningún laboratorio nuevo se crea para continuar el trabajo.

    No, en serio:

    > Como sabes, la financiación para el desarrollo de modelos de frontera depende de valoraciones que asumen que los pesos siguen siendo propietarios. Al cambiar esa suposición, podemos reducir el dinero disponible para futuras ejecuciones de entrenamiento y ralentizar el progreso en todos los laboratorios a la vez, sin que ningún regulador decida nada.

    Lo cual ni siquiera se sostiene. Depende de que todos los laboratorios del mundo acepten autodestruir sus valoraciones y dejar de competir. Eso es una petición mucho más imposible que cualquier cosa que pida Dario.

    También ignora la posibilidad de que surjan nuevos laboratorios, usen los pesos abiertos y continúen exactamente donde lo dejaron los antiguos.

    Siento como si acabara de leer las divagaciones de alguien que se emocionó tanto con el titular que no se tomó el tiempo de pensar si su argumento era sólido.

  2. tristanj

    El autor no puso ni un ápice de pensamiento racional en esto. Si se exigiera legalmente a Anthropic que liberara los pesos de cualquier modelo de acceso público, su respuesta lógica sería simplemente dejar de ofrecer modelos públicos. De todos modos, Anthropic obtiene la mayor parte de sus ingresos de acuerdos empresariales. Proporcionar modelos públicos o dar acceso público a sus modelos es su negocio secundario. Pueden cortarlo en cualquier momento. El acceso público a sus modelos (a tarifas subvencionadas) les ha causado tanto daño indirecto y coste financiero que están muy justificados para dejar de proporcionar acceso.

    Anthropic ya ha demostrado que se siente muy cómoda reteniendo modelos del público. Mythos lleva existiendo ¿qué, seis meses?, y nunca ha habido un lanzamiento público. Solo unos pocos elegidos bendecidos por Anthropic tienen acceso.

    Forzar la transparencia en los modelos públicos solo acelerará la privatización del acceso a estos modelos. No quieres vivir en ese mundo.

  3. jsnell

    > Cualquier modelo de IA que una empresa ofrezca al público tiene que liberarse como pesos abiertos.

    El resultado obvio de este plan sería que los modelos de frontera no se liberarían en absoluto al público. Sería un resultado asombrosamente malo. Los modelos accesibles al público se estancarían (sin capital, sin acceso a tokens de modelos de frontera para destilar), mientras que los modelos internos seguirían mejorando al ritmo anterior, se usarían internamente y, con el tiempo, se comerían toda la economía.

  4. throwaw12

    Soy muy escéptico de esas 3 caras de los laboratorios estadounidenses de IA: Dario, Sam y Elon

    ¿Están intentando evitar que todos los demás les alcancen o han topado con algún tipo de obstáculo para mejorar aún más los modelos?

    Pero en mi opinión, no están intentando ayudar a la humanidad

  5. bryan0

    Dario ha sido bastante claro y consistente en que:

    1. La seguridad de los modelos de IA es lo más importante.

    2. Los pesos abiertos disminuyen la seguridad de los modelos

    Así que parece poco probable que esta sugerencia fuera bien recibida

Más de este día

2026-09-12