La IA está rompiendo la confianza en el trabajo
AI Is Breaking This Thing We Call Trust
El autor compara la irrupción de la IA con la llegada del automóvil: todos debemos adaptarnos, y el proceso duele. El problema central es que ya no podemos asumir que quien envía un PR o un documento entiende lo que firma. La IA permite generar código, explicaciones y respuestas correctas sin comprensión real, lo que obliga a revisar desde cero y destruye la confianza que ahorra tiempo. Propone leer antes de enviar, entender lo que se somete y normalizar compartir trabajo sin terminar.
Su nombre en el trabajo debería seguir significando que puedo confiar en que lo entiende y lo respalda, especialmente antes de enviármelo.
- plaidfuji
> Aquí está el asunto: la mayoría de nuestros hábitos en el trabajo todavía asumen que producir algo significa que tienes que entenderlo.
Esto solo ha sido cierto en un sentido relativo. Hasta hace poco, se esperaba que uno entendiera el código de nivel de software que escribía. Pero no el código máquina, ni los internos del ordenador a un nivel profundo. Confías en que esas capas funcionan. En algún momento del pasado no podías simplemente confiar en eso. En algún momento del futuro cercano, simplemente confiarás en que el código de software funciona. En lugar de eso, solo debatirás la especificación (el prompt). Tu pensamiento puede moverse un nivel hacia arriba en la jerarquía del sistema. El de todos puede. Lo hemos hecho antes, lo haremos de nuevo, y esta ni siquiera será la última vez que ocurra. Suelta la ansiedad y deja que suceda.
- Havoc
Me preocupa la próxima generación.
Tú y yo tenemos una base. Un cerebro que hizo la mayor parte de su fase de desarrollo mientras todavía existía alguna versión unificada y aceptada de la verdad (aunque dudosa).
Las generaciones futuras tendrán que desarrollarse en una realidad más fragmentada. Un mundo donde no hay nada a lo que aferrarse. Ni siquiera una narrativa dudosa comúnmente aceptada.
- sigalor
Me pregunto cuándo la gente entenderá que la inteligencia no solo se dirige a lo externo, sino que solo comienza realmente cuando miras hacia lo interno (alegría, placer, traumas, tabúes, incomodidad, abuso, confianza, etc.). Busca la palabra "interocepción".
- philbo
Creo que una forma de abordar esto es elegir deliberadamente herramientas menos capaces (pero aún asistidas por IA). No tienes que delegar tareas enormes a agentes en su totalidad, pero requiere luchar contra los arneses convencionales para hacerlo porque existen para venderte más tokens. A los proveedores de modelos no les incentiva ofrecer flujos menos autónomos.
Escribí sobre esta frustración hace unos meses [1], luego me di cuenta de que si los proveedores de modelos no lo hacen, quizás debería intentar arreglarlo yo mismo. Así que, aviso de autopromoción descarada, escribí un arnés de código abierto que intenta funcionar más como programación en pareja y menos como revisión de código [2].
Como de costumbre, mi publicación "Show HN" [3] se hundió como una piedra, así que creo que quizás la mayoría de los ingenieros no están realmente interesados en esta dirección. Sin embargo, es posible, no tenemos que aceptar sin más las herramientas que los laboratorios nos lancen.
[1]: https://philbooth.me/blog/agentic-coding-and-mental-models
- lovich
La élite rompió la confianza.
Nadie obligó a gente como Sam Altman a convertirse en un mentiroso compulsivo. Nadie obligó a Musk a llamar a un servicio "full self driving", y luego hacer que la responsabilidad recayera sobre el usuario en el segundo en que decide que un accidente está a punto de ocurrir.
Deja de quitarle agencia a las personas que toman las decisiones de más alto nivel y se llevan todas las recompensas.
¿Dirías que alguien que se tomó 5 chupitos seguidos y condujo a casa no era responsable de un accidente porque el coche fue lo que físicamente causó el daño?