Si le pregunto a una persona, no quiero que le pregunte a una IA
Claude Says
El autor rechaza que se consulte a un LLM en lugar de responder directamente: si alguien pregunta a una persona, espera su conocimiento, no la intermediación de una IA. Sostiene que delegar en un modelo revela falta de autoridad sobre el tema y que aceptar sus respuestas sin criterio propio degrada la capacidad de pensar. Como ejemplo, critica que se forkeara y mantuviera cada dependencia desde el código fuente en lugar de usar los repositorios virtuales de Artifactory.
Hablar con una IA es tan fácil de envenenar con presuposiciones que bien podría ser un pozo envenenado.
- atomicnumber3
Ya me cansé de todo este discurso a estas alturas porque las personas que no necesitan oírlo lo están leyendo y asintiendo, y las que SÍ necesitan oírlo están ocupadas empeorando todo, ganando elogios de liderazgo (o son las que los reparten), y están completamente cerradas a cualquier crítica o aporte.
Cualquiera con curiosidad intelectual y algo de sutileza o equilibrio opera en una realidad separada de las personas que están tan metidas en la IA y tan orgullosas de ello, y básicamente no hay posibilidad de diálogo cruzado (normalmente porque los metidos en la IA son los que poseen todas las acciones).
Digo esto como alguien a quien le gustan mucho los LLMs y los roles que desempeñarán en la ingeniería de software en el futuro (y que ya desempeñan, ahora mismo).
No puedo esperar a que la fiebre de la IA esté en el mismo punto en el que está actualmente la fiebre de las criptomonedas. La gente sigue usando y construyendo con cripto, pero la venta de PNGs de monos ha parado en su mayoría, y ahora si tengo un problema que una blockchain podría resolver, podría hablar de ello de verdad en lugar de recoger accidentalmente un estandarte de batalla en medio de una guerra de trincheras.
- blktiger
Tengo que discrepar un poco aquí: las personas (incluyéndome a mí a veces) pueden tomar el camino fácil y simplemente decirte lo que dijo un agente en respuesta a una pregunta, lo cual no deberíamos hacer. En ese punto es poco mejor que un enlace de "déjame buscarlo en Google por ti". Sin embargo, aunque puedo estar transmitiendo lo que encontré usando un agente, normalmente aún tuve que hacer el trabajo de hacerle el prompt, pedirle que buscara información por mí y, por lo demás, filtrar el agente hasta la información relevante. Hay una buena probabilidad de que esté haciendo eso debido a mi experiencia específica en el área temática, que es algo fuera de lo que podrías haber encontrado simplemente preguntándole a un agente tú mismo.
- aranelsurion
Tomó quizás una década enseñarle a la gente a no usar "@here" en Slack, y el tiempo promedio de respuesta de un correo electrónico no es de 10 minutos. La tecnología sale, mucha gente va dando tumbos durante años, hasta que finalmente se forma cierta etiqueta. Pasa todo el tiempo.
No recuerdo la última vez que alguien me pasó el primer enlace de una búsqueda de Google, diciéndome que no lo había leído y que no tenía idea de su contenido. Sin embargo, veo que sucede en varios entornos de 1-1 y públicos con Claude todo el tiempo.
En esas discusiones, la gente a menudo no usa esto como una especie de protesta de "toma, déjame consultarlo con Claude por ti", sino que genuinamente quieren decir "copié y pegué este tema en Claude, y Claude dijo esto. Te estoy haciendo de proxy de carne, y absolutamente no he invertido ni un solo microsegundo de mi tiempo en ello". Obviamente, la expectativa es que tú inviertas el esfuerzo que ellos no han invertido.
Mi estrategia y mi esperanza es darle una década. Probablemente mejore.
- MisterKent
Estoy razonablemente en contra de los LLMs, principalmente desde una perspectiva humana. Nos reducen a nuestro output sin tener en cuenta ninguno de los pensamientos y experiencias reales que entran en ese trabajo; literalmente no están en sus datos de entrenamiento.
Es una lástima que vivamos en un mundo que ha decidido empujar en esta dirección.
He comenzado un proyecto de trabajo que está 100% vibe engineered, como un experimento para ver dónde terminaría. Aunque parece estar funcionando, puedo ver que ha cometido tantos errores en el camino que aún no está claro si podremos cavar hasta estar listos para producción.
Estuve recientemente en un museo de arte, mirando una estatua de mármol. Y pensé para mis adentros: este artista probablemente pasó más tiempo esculpiendo el dedo gordo del pie que el que cualquiera ha pasado apreciando la estatua entera.
Esa velocidad es la que solíamos tener en la ingeniería de software. Tanta artesanía cuidadosa, ninguna línea lanzada sin más. Y ahora solo vamos en una dirección sin un final claro, solo rezando para que modelos más grandes y mejores nos impulsen hacia adelante.
¿Cuál es el sentido de ser humano si estamos tan ansiosos por eliminar lo que nos separa de los otros animales (nuestro intelecto)?
- jchw
Lo único que encuentro extremadamente frustrante es cómo puede haber algún obstáculo ridículamente doloroso que te golpea en la cara todo el tiempo al intentar enviar código, y todos parecen comprensivos, pero no se puede cambiar por razones dudosas de cumplimiento, o tal vez porque si se bajaran las barreras se amenazaría el control de calidad del código. Justo es.
Entonces, por supuesto, todos esos badenes son demolidos en tiempo récord, solo para los agentes de IA y no para los humanos, sin importar qué advertencias queden sin resolver, con poca consideración sobre si cumple o no con los estándares de cumplimiento.
El obstáculo está arreglado. ¡Solo pídele al agente de IA que lo evite por ti!