この用語の意味
生成AIが、事実ではない内容をもっともらしく作る現象です。存在しない出典や商品名、誤った数値や日付を、もっともらしい文章として示すことがあります。文章が自然でも、事実であるとは限りません。
何ができるか
誤りが起きやすい場面をあらかじめ想定し、確認の手順を業務に組み込めます。AIを下書きや整理に使いつつ、どの情報を元資料と照合するかを決める手掛かりになります。
実際に使うために必要なもの
利用目的、入力してよい情報、参照させる資料、結果を確認する担当者を決めます。サービスの仕様・料金・利用規約は、導入時点の公式情報で確認します。
曖昧な指示の例
「新商品の案内メールを書いてください」だけでは、対象者、商品の事実、送信時期、文章量、言葉づかい、避ける表現が分かりません。AIが不足した条件を推測して、実際にはない特徴や条件を入れる可能性があります。
詳しく指定した指示の例
「添付した商品資料だけを根拠に、既存顧客向けの案内メールを300〜400字で作成してください。価格・発売日・仕様は資料に記載された表現をそのまま使い、資料にない効果や在庫状況は書かないでください。件名を3案、本文は丁寧語で、最後に事実確認が必要な箇所を箇条書きにしてください」のように、目的、対象、根拠資料、文字数、形式、表現方針、禁止事項、確認方法を指定します。
小さく試す運用例
顧客向け案内の下書きをAIに作らせ、価格や日付は担当者が元資料と照合します。まずは公開前に必ず人が確認できる社内文書や下書きで試し、誤りの種類を記録して、次回の指示や確認表に反映します。
人が確認すること・注意点
具体的な指示は誤情報をゼロにする保証ではなく、AIの推測の余地を減らすための基本です。AIは利用者個人の好みや、組織の方針・最新事情を自動的に理解しているわけではありません。目的、対象者、根拠資料、出力形式、使ってよい表現、避ける表現、確認方法をできるだけ具体的に伝えます。
出典がない回答、固有名詞、数値、法令、医療情報は特に確認します。重要な判断や社外公開に使う内容は、信頼できる一次資料または公式情報と照合し、最終承認は人が行います。
関連する事例・テンプレート
プロンプトエンジニアリングで指示の組み立て方を確認し、AIエージェントやAIモデルも参照してください。業務改善の進め方で目的・現状・確認するデータを整理し、用途に合わせて小さく試します。
関連する業種別AIスクリプト：飲食店の新メニュー紹介文を作る
関連する改善テンプレート
メールの重要度をAIで判定するときは、Gmailの重要メールをAIで自動判定し、緊急メールだけ通知するで、人の確認とルール判定を組み合わせる方法を確認できます。
史実・研究・伝説・創作を区別し、生成AIの説明も元資料と照合して公開する考え方は、創作だから、史実を曲げてもよいのか 事実を扱う作品と信頼の話で紹介しています。
AIの回答を事実・推測・未確認事項に分け、一次情報で確認する使い方は、AIに答えを聞くだけではもったいない――曖昧な質問を仕事の判断に変える5つの質問で紹介しています。