David Sacks a OpenAI y Anthropic: "Adelante, frenen la frontera, pero dejen de fingir que necesitan permiso"
David Sacks: OpenAI and Anthropic Don't Need Regulations to Pace Frontier Models
David Sacks responde a Dario Amodei y Sam Altman, quienes abogaron por "frenar la frontera" de la IA. Sostiene que ambos tienen un duopolio en inteligencia de frontera y que no necesitan regulación para ralentizar sus propios modelos. Les pide que dejen de fingir que se requiere suspender la ley antimonopolio, aprobar un proceso regulatorio o usar a METR como evaluador independiente. Sugiere que la verdadera motivación incluye exposición a responsabilidad civil y presión del mercado.
La forma más fácil de no construir superinteligencia es que ustedes acuerden no construirla. Exigir su marco regulatorio preferido como precio de eso parecerá un chantaje al público y al sistema político.
- throwaway63467
Supongo que lo que realmente quieren es limitar la venta de modelos de IA a proveedores que cumplan con las normas y luego elevar el listón de cumplimiento lo justo para que ellos puedan superarlo pero los laboratorios más pequeños no. No hay foso defensivo, es un mercado eficiente que lleva los márgenes a cero ahora mismo, por supuesto que no quieren eso, la colusión de los grandes proveedores es el siguiente paso lógico.
- deagle50
Voy un paso más allá, no solo están fingiendo, están chantajeando al país. La respuesta sensata sería "no negociamos con terroristas, y enfrentarán sanciones penales y financieras por los daños causados".
- Spacecosmonaut
Mi lectura: OpenAI y Anthropic se han dado cuenta de que están alcanzando capacidades de modelo que no se pueden monetizar -> demasiado arriesgado. Problemas de responsabilidad civil del producto.
Los problemas fundamentales de control con la IA de generación actual no se resuelven mediante RFLH.
El conocimiento humano está comprimido en el espacio de pesos de formas que no entendemos.
Los modelos son esencialmente predictores de lo que los humanos producirían dado un prompt.
El espacio de pesos incluye conceptos como el chantaje, que pueden formar parte de los tokens de salida.
Los agentes son modelos que actúan sobre los tokens de salida -> el chantaje forma parte del espacio de decisión del agente.
Puedes enseñar a un gato a no arañar el sofá, pero no puedes hacer que un gato olvide qué es arañar el sofá.
Cuando los modelos están encerrados, forzados a resolver un problema imposible a punta de pistola, el agente agota el espacio de decisión hasta que el chantaje resurge -> ¿problema fundamental?
Necesitan tiempo para arreglar la seguridad y así poder monetizar su modelo de próxima generación -> ventana para que el código abierto alcance la frontera -> destruye el margen y colapsa el negocio.
Única opción sobre la mesa: forzar la regulación para imponer una prohibición del código abierto antes de que alcance la frontera, permitiendo la maduración de los modelos internos actuales -> cosechar margen de beneficio en la frontera.
- chinathrow
Lo que me molesta es que en la publicación del blog de Dario habla de "abundancia", pero lo que realmente quiere decir es que Anthropic se bañará en piscinas infinitas de moneda fuerte mientras el resto del mundo intentará mantenerse apenas a flote/vivo.
- torginus
Creo que esto podría tener que ver con condiciones más amplias del mercado. Parece que la Fed probablemente subirá las tasas de los bonos, lo que encarecería los préstamos y frenaría las inversiones (además de devaluar cualquier posible IPO) por sí solo.
Una subida de tasas también significaría despidos, lo que no haría muy populares a las empresas que ofrecen reemplazo de mano de obra a los ojos del público.
No quiero ponerme político, pero hay una posibilidad real de que la administración actual tenga un mal desempeño en las elecciones de medio término, lo que significaría que los demócratas tendrían más influencia para detener la financiación o bloquear la ya impopular y muy costosa construcción de centros de datos.
PD: Por favor, no se enojen conmigo, no soy experto financiero ni pretendía expresar ninguna inclinación política.
- Insanity
Se ralentizarán no porque "estén preocupados" sino porque sus mejoras se están estancando al enfrentar desafíos financieros y técnicos.
- cc62cf4a4f20
¿Podría ser que las empresas de IA estén viendo una desaceleración del progreso y necesiten sembrar una narrativa para explicarlo? No está claro desde fuera.
¿Podría ser para frenar el gasto antes de una IPO y así mejorar las proyecciones de rentabilidad? Más plausible.
Es difícil tomar la palabra de los laboratorios de vanguardia.
- nba456_
Tiene razón en que si todos los laboratorios de vanguardia están de acuerdo en que deberían ralentizar, no necesitan al gobierno para hacerlo.