ハルシネーション（誤情報）を減らすプロンプト設計の実践
AIが自信たっぷりに書いた文章を資料に使ったら、そこに書かれた数字や制度名が事実と違っていた——こうした「ハルシネーション」は、業務で生成AIを使ううえで最も避けたいトラブルです。文章としては自然なため、読んだだけでは誤りに気づけない点が厄介です。
ハルシネーションはゼロにはできませんが、プロンプトの書き方と使い方の設計で発生率を下げ、見つけやすくすることはできます。この記事では、誤情報が生まれる仕組みを踏まえたうえで、実務で今日から使える対策とプロンプト例を紹介します。
この記事でわかること
- ハルシネーションが起きる仕組みと、起きやすい質問の型
- 「知らない」と言わせるためのプロンプトの書き方
- 参照資料を渡して回答範囲を限定する方法
- 出力を検証しやすくするチェック項目とプロンプト例
ハルシネーションはなぜ起きるのか
生成AIは、事実のデータベースを引いているのではなく、文脈に続く言葉としてもっともらしいものを選んでいます。そのため、知らない事柄を尋ねられても「わかりません」と止まるのではなく、それらしい文章を組み立ててしまうことがあります。誤りが自然な文体で出てくるのは、この仕組みによるものです。
また、AIは学習した時点までの情報しか持ちません。制度改正や料金改定、新しい製品名などは反映されていない場合があります。検索機能を持つツールでも、参照先の情報が古かったり、読み取りを誤ったりすることはあります。
誤情報が出やすい質問の型
- 固有名詞を伴う事実確認：特定企業の売上、人物の経歴、書籍の著者名など
- 数値・日付：料金、統計、施行日、バージョン番号
- 出典の要求：URLや論文名を尋ねると、存在しないものを作ることがある
- 法令・制度の詳細：条文番号、適用範囲、例外規定
- 前提が誤った質問：存在しない機能について尋ねると、あるものとして説明してしまう
注意
医療・法務・税務に関わる内容は、プロンプトを工夫しても最終的な正しさは保証できません。AIの回答はあくまで下調べの材料として扱い、実際の判断は医師・弁護士・税理士などの専門家に確認してください。社内規程や契約条項の解釈も同様です。
対策1：「知らない」と言える余地を作る
最も効果が大きいのは、答えられない場合の逃げ道を明示することです。多くのプロンプトは「◯◯について教えてください」と、答えがある前提で書かれています。これではAIは何かを答えざるを得ません。
「わからない場合は『情報がありません』と書いてください」の一文を加えるだけで、無理な作文が減ります。さらに確信度を自己申告させると、検証すべき箇所が浮かび上がります。
プロンプト例
【悪い例】
◯◯制度の適用条件と申請期限を教えてください。
【良い例】
◯◯制度について、あなたが確実に知っている範囲だけで説明してください。
# 回答ルール
1. 各項目の末尾に確信度を【高】【中】【低】のいずれかで付ける
- 高: 広く知られており、変更されにくい内容
- 中: 知っているが、改定されている可能性がある
- 低: あいまいな記憶に基づく。要検証
2. 知らない項目は推測で埋めず「情報がありません」と書く
3. 具体的な金額・日付・条文番号は、確実でなければ書かずに
「要確認」と記載する
4. 出典のURLや資料名は、実在が確実でない限り書かない
# 最後に
この回答のうち、公式情報で必ず確認すべき項目を箇条書きにしてください。ポイントは、確信度のラベルに意味を定義していることです。「確信度を書いて」だけでは基準がぶれます。また「出典は実在が確実でない限り書かない」と明示すると、それらしいURLの捏造を抑えられます。
対策2：参照する資料を渡して範囲を限定する
AIの記憶に頼らせるのではなく、正しい資料を渡して「この中だけで答えて」と制限する方法です。社内規程、製品マニュアル、議事録など、手元に一次情報がある場合はこれが最も確実です。
重要なのは、資料に書かれていないことを補わせないことです。AIは親切に一般論を足そうとするため、明確に禁止する必要があります。
プロンプト例
以下の【参照資料】だけを根拠に質問へ回答してください。
# 絶対のルール
- 参照資料に書かれていない内容は、一般常識であっても書かない
- 資料から判断できない場合は「資料に記載がありません」とだけ答える
- 回答の各文の末尾に、根拠となる箇所を「（第◯条）」「（3ページ目）」の
ように示す。示せない文は書かない
- 資料の記述が曖昧な場合は、解釈を断定せず「複数の読み方ができます」と
明示したうえで、考えられる解釈を並べる
# 質問
（ここに質問を書く）
# 参照資料
（ここに規程やマニュアルの本文を貼り付け）「根拠となる箇所を示せない文は書かない」という指定が要です。根拠の明示を義務づけると、資料にない内容を書きにくくなり、こちらの検証も一瞬で済みます。
資料を渡すときの注意
長すぎる資料を一度に貼ると、後半の内容が薄く扱われることがあります。章ごとに分けて質問する、あるいは関連しそうな部分だけを抜き出して渡すほうが精度は安定します。また、社外秘や個人情報を含む資料をそのまま入力してよいかは、社内ルールを必ず確認してください。
対策3：検証しやすい形で出力させる
誤りをゼロにできない以上、見つけやすくする設計が現実的です。事実と解釈を分けて書かせる、検証項目をリスト化させるといった工夫が有効です。
対策ごとの手間と効果を整理すると、次のようになります。
| 項目 | 確信度を書かせる | 参照資料を渡す | 別セッションで検証 |
|---|---|---|---|
| 準備の手間 | 小（一文追加） | 中（資料の用意が必要） | 中（2回実行する） |
| 誤り抑制の効果 | 中 | 大 | 中 |
| 誤りの発見しやすさ | 大 | 大 | 大 |
| 向いている場面 | 一般知識の下調べ | 社内規程・マニュアル | 重要資料の最終確認 |
| 限界 | 確信度自体が誤ることがある | 資料外の質問に答えられない | 同じ誤りを繰り返すことがある |
プロンプト例
次の文章を、公開前にファクトチェックする観点で点検してください。
# 手順
1. 文章から「事実の主張」をすべて抜き出し、番号を付けて一覧にする
（意見・感想・一般論は除外する）
2. 各主張を次の3分類に振り分ける
A: 一般に確立した事実で、変わりにくい
B: 時期によって変わる（料金・人数・制度・バージョンなど）
C: 根拠が不明、または出典が必要
3. BとCについて、確認先の種類を書く
（例: 公式サイトの料金ページ、官公庁の公表資料、社内の担当部署）
4. 誤りの可能性が高い箇所を、理由とともに3つまで指摘する
# 出力形式
表形式。列は「番号 / 主張 / 分類 / 確認先 / コメント」。
あなた自身が正しい数値を知らない場合、無理に訂正案を書かないでください。
# 対象の文章
（ここに文章を貼り付け）ポイント
点検は、文章を書かせたのとは別の会話で行うと効果が上がります。同じ会話の中では、AIが自分の出力を正しいものとして扱いやすいためです。新しいセッションに文章だけを貼り、前提知識のない状態で点検させてみてください。
対策4：運用ルールでカバーする
プロンプトの工夫だけでは限界があります。チームで使うなら、次のような運用ルールを決めておくと事故を防げます。
- 公開物の数値は必ず一次情報で確認する：料金、統計、日付は例外なく確認する
- 固有名詞は検索して実在を確認する：企業名、製品名、書籍名、人名
- AIが書いた出典はそのまま使わない：URLや資料名は必ず開いて確認する
- チェック済みかどうかを記録する：文書に確認日と確認者を残す
- 判断を伴う領域は人が書く：法務・労務・医療などはAIの下書きを鵜呑みにしない
特に4番目は軽視されがちですが、複数人で資料を回すときに効きます。誰も確認していない数字が、そのまま社外に出てしまう事態を防げます。
よくある質問
Q. 「絶対に嘘をつかないで」と書けば防げますか？
A. あまり効果はありません。AIは嘘をついている自覚がなく、もっともらしい文章を生成しているだけだからです。それよりも「知らない場合はこう書く」と代替の行動を具体的に指定するほうが機能します。
Q. 検索機能つきのAIなら安心ですか？
A. 記憶だけに頼るより精度は上がりますが、万全ではありません。参照先が古い記事だったり、内容の読み取りを誤ったりすることがあります。示された参照元を自分で開いて確認する習慣は、どのツールでも必要です。
Q. 確信度の自己申告は信用できますか？
A. 完全には信用できません。確信度そのものが誤ることもあります。ただし「低」と申告された箇所は実際に怪しいことが多く、優先的に検証すべき場所を絞り込む用途としては役に立ちます。
Q. 同じ質問を何度か聞いて、一致すれば正しいですか？
A. 判断材料にはなりますが、根拠にはなりません。同じ誤りを繰り返し出すことは珍しくないためです。回答が毎回変わる場合は「その領域は不確か」というサインとして受け取るとよいでしょう。
Q. 社内文書を貼り付けて質問しても問題ありませんか？
A. 利用するサービスのデータ取り扱い方針と、自社の情報管理ルールの両方を確認してください。個人情報や取引先の機密が含まれる場合は、社内で承認された環境以外では扱わないのが原則です。
まとめ
ハルシネーションは、AIが事実を照会しているのではなく、もっともらしい文章を作っている以上、完全にはなくせません。現実的な目標は、発生を減らし、残った誤りを見つけやすくすることです。
「知らないと言える逃げ道を作る」「参照資料の範囲に限定する」「事実の主張を抜き出して検証させる」の3つを組み合わせれば、実務で使えるレベルまでリスクは下げられます。そのうえで、公開物の数値と固有名詞は人が一次情報で確認する——この運用ルールをセットにすることが、最終的な安全網になります。
- 「わからない場合は情報がありませんと書く」と代替行動を指定する
- 確信度は基準を定義したうえで自己申告させ、検証箇所の絞り込みに使う
- 手元に一次資料があるなら渡し、根拠を示せない文は書かせない
- ファクトチェックは別セッションで行い、数値と固有名詞は人が確認する