Cómo enseñar a un niño en menos de 1000 ms: la arquitectura detrás de un tutor en tiempo real
Building a real-time AI tutor for 5-year-olds

Ello, el tutor de IA para niños de 4 a 9 años, revela la arquitectura que permite respuestas en menos de un segundo. Descartan el bucle de agente estándar por su latencia y usan un arnés personalizado que transmite múltiples acciones mientras un planificador asíncrono anticipa las respuestas del niño. Incluye un clasificador de seguridad que bloquea la ejecución sin retrasar la generación, y una reflexión sobre cómo la velocidad es esencial para mantener la atención y el aprendizaje.
Un niño no puede esperar una respuesta lenta, no puede leer una interfaz de chat y no puede dejar de oír algo que el modelo diga mal.