El delirio de Claude: cuando los genios de la programación se creen dioses

The Claude Delusion

El delirio de Claude: cuando los genios de la programación se creen dioses

El blog argumenta que los técnicos exitosos confunden su habilidad para programar con inteligencia superior y terminan creyendo que dominan cualquier campo. Usa a Bill Gates como ejemplo: en una entrevista reciente, Gates afirma que Claude es tan bueno como él programando y, por tanto, «sobrehumano». El autor sostiene que esta arrogancia alimenta tanto las profecías apocalípticas como las utopías tecnológicas, y que los «agentes» autónomos sirven para evadir responsabilidades.

Que la sola idea de que algo más pueda ser «tan bueno como yo» sea, primero, difícil de creer y, segundo, implique necesariamente que es «sobrehumano».
  1. ianm218

    No encuentro muy convincente el argumento del autor. Bill Gates fue, según todos los indicios, un programador excepcional en su momento y luego pasó mucho tiempo evaluando ingenieros de software. ¿No parece una persona natural para medir el progreso de la IA en programación?

    Más o menos cuando la IA empezaba a mejorar mucho en SQL, yo escribía SQL todos los días en el trabajo y llevaba años haciéndolo. No creo que hubiera sido hubris por mi parte juzgar que se estaba volviendo realmente buena y que en poco tiempo sería sobrehumana en SQL. De todos modos habría sido correcto.

  2. cronin101

    Creo que esto está escrito olvidando gran parte del contexto de la época (yo estaba en una parte relevante de la industria como para estar presente en algunos de los primeros momentos de "oh, joder, esto funciona").

    No era en absoluto evidente que la predicción del siguiente token fuera a escalar hasta el punto de poder responder fuera de su dominio de entrenamiento (este es el punto sobre las "preguntas inventadas", era importante probarlo con material fuera del conjunto de entrenamiento, ya que la escala de entrenamiento era inaudita en aquel entonces).

    Además, el éxito del post-entrenamiento en tareas verificables (programación) también fue un shock completo que cambió el mundo de la noche a la mañana. Los LLM saltaron el abismo de "puedo hacer código" a "puedo hacer código con confianza que resuelve tu problema" de repente, y ha cambiado la industria.

    Para alguien tan involucrado en esto desde los primeros días (recuerda la escala del compromiso de Microsoft), es totalmente lógico que probar cosas "el primer día" ocurriera y que esto fuera un shock mucho mayor en comparación con la mayoría de la gente que se enteró de los avances al mismo tiempo que el resto del mundo. (Hay enormes retrasos entre las capacidades de investigación y el lanzamiento)

  3. jmathai

    Este artículo primero señala que Gates no es lo suficientemente experto en biología como para evaluar la capacidad de la IA para responder preguntas complejas sobre el tema como un avance.

    Luego, inmediatamente después, dice que sus comentarios sobre la programación con IA son arrogantes a pesar de ser un experto en ese campo con más experiencia que casi cualquiera.

    No sé cómo interpretar eso.

  4. blincoln

    La gente del lado del autor en este debate simplemente aún no ha visto la evidencia de primera mano. Puedo entender que sean escépticos hasta entonces, pero se deben a sí mismos probar los modelos de frontera de finales de 2026.

    El momento de la bombilla para mí fue cuando le di a Claude Code un problema difícil de ingeniería inversa: entender cómo funcionaba un esquema de codificación propietario complejo, y luego construir un codificador y un decodificador. Hay algunos factores adicionales que complican esto que no puedo revelar, porque era para el trabajo, pero era un problema difícil.

    Para contextualizar, llevo más de 25 años haciendo RE. No soy el mejor del mundo, pero soy bastante bueno cuando encuentro tiempo.

    Un compañero de trabajo y yo habíamos pasado aproximadamente una semana en el trabajo, y estimé que nos llevaría otras 2-3 para completarlo. Habíamos descubierto cómo se codificaba aproximadamente 3/4 de los mensajes, pero el resto simplemente no tenía sentido.

    Le di a Claude Code nuestras notas, y en 15 minutos había terminado de descifrar el resto del protocolo y construido un decodificador de línea de comandos. Le pedí que añadiera una función de codificación, y en otros diez minutos, también lo había hecho. Probó todo su propio código extensamente usando nuestro corpus de datos reales.

    El decodificador funcionó perfectamente en todas nuestras capturas existentes, así como en los nuevos datos recopilados después de eso.

    Tuve que hacer un pequeño cambio en el codificador relacionado con una de las cosas que no puedo revelar. No se lo reprocho al modelo, porque no tenía acceso al producto real para probar su salida contra él. […]

  5. siva7

    > Elegí a Bill Gates arriba para ilustrar el efecto de exceso de confianza

    Después de haber leído tu blog, puedo afirmar que has demostrado ese efecto en ti mismo. Bill tiene toda la capacidad y credenciales probadas, así que sabemos que este tipo es una autoridad en temas de ingeniería de software, tú tienes cero si no me equivoco.

  6. jrm4

    El autor da en el clavo con Bill Gates. Por su propia admisión, su empresa esencialmente se perdió la llegada de Internet, y todos literalmente sufrimos hoy por ello.

    Se perdió la llegada de la interconexión de las máquinas y en su lugar supuso que cada computadora iba a ser una calculadora fotocopiadora elegante (que nunca hablará con otras, por lo que no se necesita seguridad).

    Un agujero masivo en la percepción.

  7. hliyan

    La primera parte del artículo tiene sentido en cuanto a que:

    En cualquier sistema de agentes en competencia (como los seres humanos) donde la recompensa por el rendimiento puede mejorar el rendimiento, siempre resultará en que incluso las diferencias aleatorias menores en el rendimiento inicial se acumulen exponencialmente hasta que uno o un puñado de individuos dominen. En tal sistema, solo una pequeña parte del éxito puede atribuirse a habilidades innatas. Así que es cierto que el éxito en sí mismo, aunque señala aptitud para sobrevivir, no necesariamente señala una capacidad desmesurada para hacer juicios precisos.

    No tengo del todo claro qué intenta transmitir la segunda parte del artículo. ¿Es que los individuos altamente exitosos atribuyen su éxito enteramente a su habilidad y, por lo tanto, cuando una máquina puede replicar su conjunto de habilidades, se sorprenden y consideran que la tecnología altera el mundo?

  8. dgreensp

    Es una lectura divertida.

    Pero los agentes de hoy son "superinteligentes", de la misma manera que los trenes son "superlocomotoras", es decir, más rápidos que un humano corriendo. Y pueden llevar más. Los trenes simplemente son mejores para ir del punto A al punto B que los humanos.

    Eso no significa que los trenes sean una superraza y los humanos estén obsoletos, solo que hemos construido máquinas que pueden hacer algo más eficazmente de lo que nuestros cuerpos son físicamente capaces, como de costumbre.

    La inteligencia no es lo que nos hace humanos. Un humano que no puede jugar al ajedrez o escribir un soneto sigue siendo un ser humano.

    Se llaman "agentes" porque pueden, y de hecho lo hacen, realizar acciones de forma autónoma en nuestro nombre. Los agentes virtuales no son algo nuevo.

Más de este día

2026-11-14