Claude y otros LLM: útiles para buscar, pero no les pidas que escriban código

An Honest Review of AI Programming

Un ingeniero de juegos probó Claude durante tres meses y encontró que los LLM son excelentes para buscar en bases de conocimiento internas y resumir información, pero advierte que no son fiables para escribir código. Critica las alucinaciones y el riesgo de que se retroalimenten con sus propias respuestas, y señala que, aunque la tecnología no es mágica, puede ser útil si se usan con escepticismo y se verifican las fuentes.