El pánico a la IA es una distracción: el verdadero peligro es el control de los laboratorios
P(doom)
El autor cuestiona la narrativa de que la IA causará una extinción, argumentando que el verdadero riesgo es el poder de unas pocas empresas cerradas como OpenAI y Anthropic. Señala que los modelos abiertos, impulsados por laboratorios chinos, nivelan el campo y que la regulación actual es un fracaso total. Su preocupación central no es el fin del mundo, sino el costo económico y social que esta tecnología impone a todos los demás.
We should be glad that China is currently massively bailing out the world. If it were not for Chinese labs distilling American models, we would be in a pretty awful situation right now, particularly as Europeans.
- demibabs
No soy el mayor fan de Ed Zitron, pero algo que dijo se me quedó grabado:
OpenAI y Anthropic pasan mucho tiempo advirtiéndonos sobre "¿y si IAs poderosas cayeran en las manos equivocadas?".
Pero ya están en las manos equivocadas.
- passive
Esto es lo más cercano a lo que siento sobre toda esta situación que he visto escrito jamás, y cubre muchas de las distintas facetas de lo estúpido y doloroso que es (aunque ha sido una buena semana para ese tipo de publicación).
Como tengo un respeto increíble por Armin y su trabajo, es muy agradable ver esto, y espero que despierte a algunos otros.
- bryan0
> Una tecnología poderosa que está ahí fuera para que la use todo el mundo viene con un ritmo incorporado. En cierto modo es la forma más pura de MAD o de proliferación.
Creo que este malentendido del MAD socava todo su argumento. Si todo el mundo tuviera acceso igualitario a armas nucleares, nuestra sociedad dejaría de existir bastante rápido. Solo hace falta unos pocos actores malintencionados para causar un daño enorme.
También creo que es ingenuo al pensar que si OpenAI y Anthropic dejaran de desarrollar mañana, el problema estaría resuelto. Como si no hubiera nadie más que pueda y vaya a ocupar su lugar rápidamente. El problema real, que es lo que señala Dario, es uno de coordinación. Todo el mundo tiene que ponerse de acuerdo en parar. Ese es el desafío.
- pandoro
No alcanzo a comprender cómo puedes trabajar intensamente en un problema que crees de verdad que tiene una probabilidad de "10 a 25%" de causar un daño inmenso o incluso presentar un riesgo de nivel de extinción para la humanidad. ¿Cómo puedes creerlo de verdad y estar de acuerdo con ello?
- ilyaizen
En realidad solo hay dos empresas: Anthropic y OpenAI. Nadie más importa en este espacio ahora mismo (esto podría cambiar, pero estamos hablando del ahora mismo).
Me gusta cómo descartó tan a la ligera todos los demás laboratorios, incluidos los laboratorios líderes de EE. UU. que podrían estar cerca de la RSI ahora mismo. Y cómo trata el "ahora mismo" de forma tan rígida, como si hace siete años, cuando se lanzó GPT-2, fuera un pasado lejano.