미국 노동시간의 90%, AI 벤치마크가 제대로 다루지 못하는 작업에 쓰인다
90% of US working hours are spent on tasks not covered well by AI benchmarks
Mercor의 분석에 따르면, 923개 직업 중 208개만이 최소 5개의 벤치마크 프롬프트로 커버되며, 22개 직업군 중 6개는 전혀 커버되지 않는다. 이는 미국 노동시간의 약 90%가 기존 AI 벤치마크의 적용을 거의 받지 못하는 작업에 사용된다는 것을 의미한다. 벤치마크는 AI 노출도가 높은 변호사 업무에 집중된 반면, 법률 비서나 법원 서기 같은 유사 직종은 거의 다루지 않아 경제적 가치가 큰 작업에 대한 AI 성능 파악을 어렵게 만든다.
우리의 연구 결과는 미국 노동시간의 90%가 기존 벤치마크의 적용을 거의 또는 전혀 받지 못하는 작업에 사용된다는 것을 시사한다.