Kimi servía Claude en secreto y los espías chinos enviaban sus prompts a Anthropic
Moonshot serves Claude instead of Kimi and collects exchanges for model training
David Agranovich, exresponsable de disrupción de amenazas en Meta, analiza el informe de Anthropic sobre el uso malicioso de Claude. Destaca que Kimi, el modelo chino, en realidad era un wrapper de Claude, por lo que actores de inteligencia y militares chinos enviaban sus prompts a una empresa estadounidense. También señala que la brecha entre un operador solitario y un actor estatal se ha cerrado gracias a las herramientas agénticas, y que las claves API robadas se han convertido en un objetivo principal.
Imagínate ser un actor de inteligencia o militar chino y enviar todos tus prompts a una empresa estadounidense de IA porque tu empresa china de IA de frontera es solo un wrapper de Claude.
- nacs
Claude/OpenAI, etc., han tomado y siguen tomando literalmente todos los datos de internet, libros impresos, imágenes, audio y video que los humanos han creado en toda la existencia sin permiso para entrenar sus modelos.
Pero cuando la misma empresa de IA es "destilada" o su propio contenido generado por IA se usa para entrenar otros modelos, ¿de repente es inmoral o ilegal?
- monneyboi
No puedo ser el único que se está cansando de esto.
Enmarcar el aprendizaje por observación como algo malo. Algo que literalmente todo el mundo hace, modelo y humano por igual. Es el proceso sobre el que se construye toda esta industria. Fingir que esto es malo porque los demás también están haciendo lo que tú has estado haciendo es hipócrita e infantil.
Mientras tanto, aquí estoy mirando un spinner de "Flibbertigittering" como una especie de cavernícola, incapaz de dirigir el modelo cuando malinterpreta mi prompt ambiguo porque no se me permite ver el 80% de los tokens de salida que estoy pagando.
- AlanYx
La pregunta abierta aquí es cómo está reteniendo Anthropic estos intercambios.
Si Moonshot está usando la API, normalmente Anthropic no retendría los intercambios, al menos esa es la promesa. Si Anthropic está reteniendo consistentemente todos los intercambios de una clase de clientes porque están "marcados" pero sin notificar a esos clientes, ¿cómo puede un cliente promedio confiar en que no le pasará a él?
Si Moonshot está comprando cuentas y usándolas en lugar de la API, ¿no establecerían la bandera de "no entrenar con mis datos" en la configuración para pasar desapercibidos por más tiempo? Si es así, volvemos a la pregunta de por qué Anthropic estaría reteniendo los intercambios.
- segmondy
Entonces, ¿cómo es que el supergenio Fable y Mythos no los detuvieron?
- ahsillyme
Esto es raro. No se me ocurre un mejor cumplido que sea a la vez más seguro. Entonces siempre irán por detrás en la generación de datos, ¿no? Así que no le veo el sentido. En el mejor de los casos para Moonshot, pueden mentir sobre benchmarks que de todos modos están manipulados, así es como lo veo.