【要約】
OpenAIは9月5日、言語モデルが誤情報（ハルシネーション）を生成する原因と、その回避策を公式ブログで解説した。誤情報が生じる主因は「評価方法が誤ったインセンティブを与えているため」であり、正答率を重視すると、AIは「わからない」と回答せず、もっともらしい誤答を返す傾向が強まるという。精度を100％にしても世界には推論不可能な情報が存在するため、完全な防止は不可能と説明。回避策として「わからない場合はわからないと答える」ことが最も有効であるとし、今後はこの姿勢をAI評価基準に反映していく方針を示した。
【ニュース】
◆ハルシネーションを回避する方法、OpenAIが説明 (マイナビニュース, 2025/09/09 08:42)
https://news.mynavi.jp/techplus/article/20250909-3442338/
【関連まとめ記事】
◆ハルシネーション / Hallucination / 幻覚 (まとめ)
https://tt-ai.hatenablog.com/entry/Hallucination
