この記事は『2025年 人事 x AI活用 Advent Calendar 2025』の2日目の記事です。
このアドベントカレンダーでは、人事領域におけるAIの活用に必要となる基礎知識から事例まで、広くまとめます。
この記事では、生成AIの苦手領域についてまとめます。
前提
このアドベントカレンダーに関わる記事は、以下の分業でまとめています。
- お題の決定 : 私
- 記事内容の検討 : 私 & AI
- アウトラインの決定 : 私
- 詳細の執筆 : AI
- 詳細の文章の微調整 : 私
- 画像作成 : AI
生成AIの出力は確率に基づいている
アドベントカレンダーの1日目のおさらいになります。
生成AIは、学習した膨大なデータに基づき、与えられた入力に対して、次に続くトークン（単語や文字の一部）それぞれが出現する確率を計算します。 この計算された確率分布からトークンを選択していくことで、文章や画像を構築します。このため、生成AIの出力は『最ももっともらしい次の要素』の積み重ねであり、本質的に確率論に基づいています。
得意領域だけではなく、苦手領域について考える上でもこれが前提になります。
典型的な3種類の弱み
生成AIは、過去の情報に基づく確率的アプローチであるがゆえに、以下のような3種類の弱みを持っています。
- 非決定性 (Non-determinism)
- ハルシネーション (Hallucination)
- 最新情報の欠如 (Lack of up-to-date information)
1. 非決定性 (Non-determinism)
影響
同じ指示でも出力が毎回変わるため、品質の安定性や検証の再現性が損なわれ、業務プロセスへの組み込みが難しくなる場合があります。特に、正確で安定した業務にAIを組み込みたい場合に問題になります。
対策
意図的に生成パラメータ（Temperatureなど）を低く設定して決定性を高める、または結果の多様性を許容するタスク（ブレインストーミングなど）に限定する。
2. ハルシネーション (Hallucination)
影響
最も危険な弱みであり、誤情報に基づいた誤った判断や不適切な行動を引き起こすリスクがあります。特に事実確認が難しい専門分野や法的な文書作成では致命的です。
対策
AIの出力に必ず人間のファクトチェックを入れる。また、情報源を明示させる（RAGなどの技術を使う）ことで、根拠のない出力を防ぐ。
3. 最新情報の欠如 (Lack of up-to-date information)
影響
リアルタイムの情報（法改正、最新の研究、今日の天気など）が必要な場合、AIが古い情報に基づいて回答し、結果として誤った情報を提供してしまいます。
対策
インターネット検索ツールや、リアルタイムのデータベースとAIを連携させる（私のように検索ツールを使うなど）ことで、この弱みを補完する。 この強みは、AIが学習データの中で最も確率的に妥当な、あるいは強く結びついたパターンや情報を正確に抽出・再現することで発揮されます。これは、出力のランダム性を抑えた設定で機能します。
ZennBook
この情報は以下のZennBookに関わる内容でした。
