진짜 AI 제품은 '실수 확인'을 일급 기능으로 만들었을 것이다
What Would a Serious AI Product Look Like?
현재 LLM 제품들은 자신의 전제를 진지하게 받아들이지 않는다. 실수를 인정하면서도 확인 도구는 전혀 제공하지 않고, 출처는 읽기 힘든 작은 글씨로 표시하며, 쓸데없는 사과와 1인칭 표현을 남발한다. 이 글은 연구·소프트웨어 개발용 AI가 진짜로 쓸모 있으려면 어떤 기능을 갖춰야 하는지 제안한다. 모든 주장 옆에 확인 체크박스를 두고, 인용을 크게 전면에 배치하며, 데이터 출처를 명확히 표시하고, 재현성을 위한 사용자 제어권을 제공해야 한다는 것이다.
당신의 제품이 실수를 할 수 있고 실수를 확인하는 것은 나의 몫이라고 말하면서, 실수를 확인할 도구를 전혀 주지 않는다면, 나는 그것을 진지하게 받아들일 수 없다.