Anthropic, Claude의 오류·오해 소지 답변 공식 인정

Claude is providing incorrect or misleading responses

Anthropic 지원 문서는 Claude가 때때로 부정확하거나 오해를 부르는 답변을 내놓는다고 밝히며, 이를 '환각' 현상이자 최신 Generative AI 모델의 한계에서 비롯된 부산물이라고 설명한다. 최신 정보 부재로 시사 문제에서 혼동하거나, 권위 있어 보이지만 사실에 근거하지 않은 인용을 제시할 수 있다는 것이다. 사용자는 Claude를 유일한 진실의 출처로 삼지 말고 고부담 조언을 신중히 검토해야 하며, 웹 검색 결과에서는 인용된 원문 사이트를 직접 확인하라고 권고한다.