아이를 1초 안에 가르치기: 실시간 AI 튜터의 아키텍처

Building a real-time AI tutor for 5-year-olds

Ello가 4-9세 어린이를 위한 최초의 AI 튜터를 만들기 위해 겪은 엔지니어링 도전을 소개합니다. 표준 에이전트 루프는 3-4초의 지연을 발생시켜 아이들의 집중을 잃게 합니다. Ello는 모델이 여러 액션을 스트리밍하고, 인터프리터가 실행을 담당하는 커스텀 하네스를 구축했습니다. 또한, 플래너 에이전트가 비동기적으로 수업 목표를 검토하고, 안전 분류기가 생성과 실행을 분리해 지연 없이 작동합니다. 아이의 예상 답변을 미리 생성하는 분기 전략과 안전 정책의 중요성도 다룹니다.