Gemini는 왜 Pokémon에서 몇 시간 동안 차를 찾아 헤맸나
The State of Context Engineering
Drew Breunig가 AGNTCon에서 발표한 '컨텍스트 실패와 해결법' 강연을 정리한 글이다. 2024년 말 긴 컨텍스트에 대한 기대가 정점에 이르렀지만, 컨텍스트가 길어질수록 중독(poisoning), 산만(distraction), 혼란(confusion), 충돌(clash)이라는 네 가지 실패 모드가 드러났다. Gemini 2.5가 예전 Pokémon Red를 플레이하면서도 FireRed의 '차' 미션에 사로잡혀 헤맨 사례와, 반대 예시가 쌓일수록 지시를 무시하게 되는 실험 결과가 이를 잘 보여준다.
Gemini 2.5 Pro는 여러 지점에서 자신이 진행하려면 차를 가져와야 한다고 착각에 빠졌고, 그 결과 차를 찾거나 경비원에게 차를 건네려고 수많은 시간을 쏟았다.