Los modelos de IA chinos son más conformistas que los occidentales, según un experimento
AI Model Groupthink
Un desarrollador creó una herramienta que pregunta a 12 modelos de IA por sus 'top 3' y mide su acuerdo con el consenso. Los modelos chinos (DeepSeek, Kimi, Hy3, GLM) obtienen las puntuaciones más altas de conformidad, mientras que Llama 4 Scout y Claude Haiku son los más inconformistas. El autor explora posibles causas como la destilación, el ecosistema open-weight chino o el sesgo del canon inglés, y advierte sobre el riesgo de un pensamiento grupal mediado por laboratorios.
Cuando los modelos copian las opiniones de los demás y las retroalimentan en el mundo real, un consenso no necesita ser correcto. Solo necesita ser el primero.
- Lerc
Creo que es bastante probable que la posición deseada para un chatbot en el eje conformidad-contraconformidad sea bastante diferente de un país a otro.
El tono apropiado para una cultura parece ser algo en lo que las empresas estadounidenses son bastante malas. Realmente me sorprendió que después de muchísimos años de IA en la ficción desarrollando un estándar de facto de tono base, decidieran empezar con 'demasiado familiar y alegre'.
Me he preguntado si la horrible voz de TikTok vino de desarrolladores chinos configurándola para representar cómo suenan los estadounidenses para ellos. Quizás funcione en ambos sentidos.
- writeslowly
Estaba haciendo experimentos similares pero teniendo un círculo de modelos debatiendo algún tema en particular para ver si llegaban a un consenso o no, y encontré que casi siempre llegaban a un acuerdo, pero Gemini era siempre el que mantenía una posición fuera del consenso del grupo.
Dicho esto, para algo muy simple como "¿De qué color debería ser mi habitación?" no estoy seguro de que esto sea un rasgo deseable. El modelo que sabe que a la mayoría de la gente le gusta el crema (o lo que sea) probablemente esté funcionando más correctamente que el que sugiere naranja fosforescente.