Anthropicが認める「Claudeはもっともらしい嘘をつく」

Claude is providing incorrect or misleading responses

Anthropicの公式サポートページが、Claudeが誤った、あるいは誤解を招く回答を生成しうると明言している。これは「ハルシネーション」と呼ばれる、最先端の生成AIモデルが抱える現時点の限界に由来する現象だ。最新情報を学習していない分野や時事問題では混乱し、権威的に見えても事実に基づかない引用を提示することがある。ユーザーはClaudeを唯一の真実の情報源とせず、重要な判断では回答を精査し、ウェブ検索利用時は引用元の原典を確認するよう求められている。