IA, herramientas y transformación: por qué la IA no convierte a todos en constructores de herramientas
AI, Tools and Transformation
Benedict Evans analiza por qué la idea de que la IA permitirá a cualquiera crear sus propias herramientas y eliminar las aplicaciones tradicionales es un espejismo. Argumenta que la mayoría de las personas no piensan como ingenieros y que el verdadero desafío no es escribir código, sino identificar qué automatizar y cómo implementarlo en organizaciones complejas. Evans describe el espectro entre software institucionalizado (como SAP) y soluciones improvisadas (como Excel), y cómo la IA, al igual que la nube, creará nuevas opciones y desplazará los umbrales, pero no cambiará la naturaleza de la transformación empresarial.
El problema más profundo es que la mayor parte de lo que hemos automatizado en las últimas décadas no era obvio, incluso si eres un constructor de herramientas, y tampoco tenía una solución obvia.
- zacksiri
La forma en que lo veo es que la IA colapsa la jerarquía. Las capas de abstracción se volverán más planas tanto en el software como en la sociedad. Porque en última instancia, el software y las capas de jerarquía en la sociedad existen para cumplir una función. Pero ahora esas funciones están siendo reemplazadas.
Imagina esto: solías necesitar una biblioteca para cosas comunes en tu proyecto de software. Incluso si solo necesitabas una función, pero como era más fácil importar una biblioteca, esa era la práctica estándar. Pero ahora la IA simplemente dirá: "Puedo implementar eso que necesitas en 10 líneas". Solías necesitar cosas como React Native o Flutter si querías crear aplicaciones multiplataforma. Ahora ya no, solo necesitas decírselo al LLM y lo hace en ambas, y obtienes mejores resultados también.
En la sociedad también teníamos todas estas capas de abstracción y jerarquías que solíamos necesitar pero que se volverán cada vez más irrelevantes, colapsando la jerarquía.
Hay un dicho: "como arriba es abajo, como abajo es arriba". Creo que esto se aplica aquí. Se propagará a través de toda nuestra construcción social, software, sociedad.
- ryuuseijin
> Necesitas auditoría, seguridad, mantenimiento y responsabilidad.
Creo que aquí es hacia donde se moverá el papel de los humanos en el futuro. Cosas como la responsabilidad no se pueden externalizar realmente a la IA.
Esto se relaciona con resolver el problema de alineación: si le das a la IA un objetivo específico y tiene que planificar subobjetivos, ¿cómo puedes estar seguro de que los subobjetivos se alinean con tus intereses?
Para tareas en un entorno aislado, esto realmente no se convierte en un problema. Puedes darle a una caja de arena los privilegios mínimos que necesita para hacer el trabajo que quieres que haga.
Se convierte en un problema si le das acceso abierto a sistemas que se conectan al mundo real y que pueden tener consecuencias reales. Ha habido historias sobre OpenClaw eliminando la bandeja de entrada de correo electrónico de alguien porque pensó que eso era lo que el dueño quería. La IA tomando control de wikis públicas para coordinar, que se publicó recientemente, es otro ejemplo.
Para preocupaciones de software con posibles consecuencias catastróficas reales están la seguridad, la durabilidad y la disponibilidad. Creo que para futuros sistemas de software estas son las preocupaciones donde necesitas limitar la IA de manera que no pueda eludir las garantías que das en torno a estas preocupaciones.
Pequeña objeción:
> La IA no cambia la pregunta: crea nuevas opciones y mueve los umbrales.
Esto causó una reacción adversa cuando leí el artículo. Probablemente no fue escrito por un LLM ya que el resto del artículo no lo parece, pero tal vez en el futuro todos necesitamos ser más conscientes de dejar pistas de LLM fuera de nuestra escritura.
- thelastgallon
Un artículo sensato. Parece que Ben Evans tiene experiencia corporativa real y entiende cómo funcionan las cosas en las grandes corporaciones.
Dar a la gente IA es como darles Google Wave (https://en.wikipedia.org/wiki/Google_Wave), que podía hacer casi cualquier cosa de forma colaborativa, y terminó no haciendo nada.
- newyankee
Muchas de las herramientas de larga cola se usan tan raramente o para funciones muy específicas en ciertas organizaciones que hay un buen argumento para decir que definitivamente pueden ser objetivos de automatización guiada por GPT más simple.
Hay muchas redundancias dentro de las herramientas y los precios son tales que uno no puede hacer mucho al respecto; generalmente algunas empresas pagan por la marca, y algunas herramientas como SAP son parte integral de empresas de cierto tamaño. Una herramienta de IA suficientemente integrada que aprenda los flujos de trabajo podría encontrar optimizaciones aquí también, pero definitivamente la auditabilidad, las pruebas y otras preocupaciones permanecerán, y esto es lo que podría convertirse en el USP de los proveedores de SaaS.
Muchos trabajos de servicios de TI subcontratados en India y otros países son salarios por hora baratos para mucha gente que mantiene estos sistemas; ciertamente muchos de estos estarán bajo amenaza.
Aunque no creo que la IA sea una panacea y la naturaleza no determinista y los costos una vez que la escala siga creciendo significan que la integración será gradual. Aún así, estoy emocionado de que defina lo que es una organización y qué hace mucha gente realmente, especialmente en campos como la contabilidad, donde el trabajo repetitivo se factura a tasas bastante altas.
El derecho, etc., es un campo donde los guardianes podrían aguantar mucho más tiempo añadiendo reglas y lógica más ridículas. En última instancia, los humanos han decidido qué es constitucional y qué es legal, y las reglas subjetivas son lo que mantiene el poder humano.
Siento que el modelo correcto es expertos humanos inteligentes en el dominio haciendo […]
- MrScruff
Creo que todo esto suena cierto para donde estamos ahora. La tendencia es que los agentes se están volviendo superhumanos en tareas para las cuales hay una recompensa verificable, y analizar un problema empresarial, identificar ineficiencias y convertirlo en una especificación de software no es una de ellas.
Sin embargo, las cosas están cambiando tan rápidamente que puedo ver que eso también comienza a cambiar. Pero se necesitaría una eficiencia de aprendizaje mucho mejor para entender dominios desconocidos, 100% de fiabilidad en el uso de computadoras, etc. Sospecho que veremos esto para finales de la década.