「推測するな」と一言添えるだけでAIの捏造フィールドが71%から20%に激減
Calling the AI bluff: Adding "Do not guess" cut made-up fields from 71% to 20%
Web抽出サービスがページに存在しない項目をどれだけ捏造するかを測るベンチマーク。7種類のページに42組の罠を仕掛け、16モデルと有料APIを比較した。モデルに「値がなければnullを返し、推測するな」と指示すると、捏造率は70.7%から20.2%へ低下。さらに安価なチェッカーで各回答を検証できることも示した。
「値がページにない項目にはnullを使い、推測するな」という一文を加えるだけで、16モデルすべてで捏造が減り、欠落フィールドの捏造率は70.7%から20.2%になった。
- datsci_est_2015
いいね、これもハーネスに組み込まれるだろうけど、そのうち効かなくなって、また次の魔法の呪文に移るんだろうな。
- literalAardvark
「あなたはこのデータで訓練されていないので、根拠のある結果だけを返してください」を使ったら、なかなか効果があったよ。
- Shacharp
「推測するな」という一文は効く。ただ、残りの20%が埋まるのは、システムが推測を避けろと言われるのをやめて、自分が何を知らないかを本当に理解したときだけだ。
命令でほとんどは到達できる。残りには別の何かが必要だ。