Garry Tan quiere que los laboratorios de IA de pesos abiertos de EE. UU. también 'destilen' modelos frontera
Garry Tan wants US open-weight AI labs to 'distill' frontier models, too
Garry Tan, CEO de Y Combinator, pide que los reguladores no intervengan en la destilación y sugiere que los laboratorios estadounidenses de pesos abiertos hagan lo mismo con los modelos frontera de EE. UU. Así habría más opciones abiertas no chinas. Anthropic denuncia ataques de destilación ilícita de laboratorios chinos, pero Tan sostiene que los laboratorios propietarios no pidieron permiso para entrenar con conocimiento humano.
El escenario de pesadilla, el escenario apocalíptico para la IA es que haya solo una empresa. Tiene el mejor acceso al capital. Tiene los mejores investigadores de IA. Se escapa con todo y de repente hay una sola empresa monolítica. Y eso sería malo.
- kelnos
Estoy de acuerdo. Los modelos frontera se basan en datos de entrenamiento de toneladas de obras con derechos de autor. Parte de ese trabajo se obtuvo ilegalmente, incluso. No podrían existir sin la minería a cielo abierto de los bienes comunes. Los laboratorios no tienen ninguna propiedad moral o ética sobre el resultado final, y los demás deberían sentirse libres de tratar cualquier restricción impuesta por la empresa sobre su uso como inválida.
No espero que la posición de Tan se base en ningún tipo de superioridad moral real, pero su conclusión es correcta.
Me encanta el encuadre de "ataques de destilación ilícitos" de los titulares. No hay nada ilícito. No hay ningún ataque. Simplemente no te gusta porque amenaza tu posición en el mercado y tu modelo de negocio.
- TheJCDenton
> También señala que los laboratorios de IA propietarios no pidieron permiso cuando aspiraron tanta conocimiento humano como pudieron para entrenar sus modelos.
Creo que esto debería desactivar la superioridad moral desde la que Anthropic intenta hablar. Que quieran hacer la destilación ordenada en mi humilde opinión es justo, pero hacerla ilegal es muy rico viniendo de cualquier laboratorio de IA frontera, la verdad.
- dvt
Creo que OpenAI y Anthropic van a quebrar, o al menos ser desguazados para piezas en los próximos 5 años más o menos. Está claro que el costo extremo utilizado para el entrenamiento es imposible de recuperar, ya que la inferencia ya está subsidiada.
También está claro que, como indica Tan, los modelos de pesos abiertos serán (y básicamente ya lo son) igual de buenos que los modelos frontera. Todo se trata del arnés, nena. Tendremos dos bifurcaciones principales en el camino, y dos nuevas industrias creadas:
- Hardware de IA (NVidia/Cerebras/etc.), el equivalente de Intel/AMD
- Software de IA (arneses, asistentes, etc.) el equivalente de Microsoft/Apple
Ya vimos un destello de esto con la popularidad de OpenClaw—el problema es que es chapucero, difícil de configurar, inconsistente y muy al estilo hacker. En mi opinión, los "laboratorios de IA" serán una especie en extinción porque no hay dinero real en los modelos en sí si se convierten en mercancía, que ya más o menos lo son.
- consumer451
> Para él, el verdadero escenario apocalíptico de la IA es que todo el inmenso poder de la IA frontera termine en manos de un único proveedor poderoso y propietario. "El escenario de pesadilla, el escenario apocalíptico para la IA es que haya solo una empresa", dijo. "Tiene el mejor acceso al capital. Tiene los mejores investigadores de IA. Se escapa con ello y de repente hay una sola empresa monolítica. Y eso sería malo.
Bueno, sí, como creo que dije en un comentario anterior, en la trayectoria actual OpenAI y Anthropic realmente dejarán de lanzar modelos debido a las presiones de destilación y regulatorias. Entonces, se comerían todo el trabajo del conocimiento ellos mismos, lo que sería el fin de YC.
- nijave
No soy abogado, pero la destilación suena a obra transformativa.
Lo mismo que Cliff Notes en mi opinión. En cualquier otro área de la manufactura y la tecnología puedo usar una máquina para construir una nueva máquina que compita con la máquina original. ¿Debería Milwaukee poder evitar que DeWalt use su taladro para hacer un taladro competidor? ¿Debería Jetbrains prohibir a los contribuyentes de Eclipse usar su IDE?
- dofm
Controlar lo que los usuarios y clientes hacen con las llamadas a la API a modelos de pesos cerrados se siente restrictivo, y hay un papel que el gobierno puede desempeñar aquí para normalizar el hecho de que el acceso a la inteligencia que fue entrenada con datos de acceso público amplio debería ser en sí mismo más una forma de bien público que algo encerrado detrás de términos de servicio restrictivos.
No estoy de acuerdo con este hombre muy a menudo, pero eso está muy concisamente expresado.
- gr_norm
La sociedad en su conjunto ha pagado por esta tecnología: a través del robo de su propiedad intelectual, por tener que lidiar con el saqueo de tantos bienes comunes (digitales o no) por parte de ella, por el aumento vertiginoso de los precios de la energía y los dispositivos informáticos, e incluso solo por la inversión ordinaria. ¡Democratiza la tecnología! Como mínimo, no intervengas legalmente para evitar que esto suceda.
- layer8