この用語の意味
ディープフェイクは、AIを使って、人の顔や声などを本物らしく合成・加工した画像、音声、動画を指します。顔の置換、本人が話したように見える口の動き、声の模倣などがあり、見聞きした相手が本人とは限らないことが業務上の問題になります。音声だけでも成立し、映像があることは本人確認の保証になりません。
合成されたメディア全体と同義ではなく、その一部です。合成音声による案内や許諾を得た映像制作にも関連技術が使われます。一方で、本人が言っていない指示を言ったように見せれば、送金詐欺、誤った発表、信用の毀損につながります。普通の編集や文脈の切取りによる誤情報もあり、偽情報がすべてディープフェイクというわけではありません。
何ができるか
許諾された素材による研修動画の多言語化や、出演者が毎回撮影しなくても更新できる案内映像などに活用できます。用途・公開先・利用期間・修正権限を決め、視聴者が合成と分かる表示も設計します。本人の同意を得たことと、生成された発言内容の承認は分けて確認します。
防御面では「偽物を見抜く」だけに頼らず、重要な依頼を確かめる経路を追加します。架空の会社で社長らしい音声が「口座が変わったので急いで振込を」と告げても、経理は声を証拠にせず、登録済みの連絡先と社内の承認記録で確認する流れにします。
「本人に似ているか」と「その指示を実行してよいか」も別です。本物の本人からの依頼でも、権限や承認条件を満たしていなければ支払いは進められません。この二つを分けると、映像の真偽をその場で断定できなくても業務を安全に保留できます。
実際に使うために必要なもの
制作する場合は、使用権限のある画像・音声、内容を承認する担当者、生成サービスの利用条件、素材と生成物の保存・削除方法が必要です。費用には生成の従量料金だけでなく、素材の準備、発音や映像の修正、翻訳確認、権利確認が含まれます。
対策する場合は、変更依頼の確認先一覧、支払先変更の受付手順、二者承認、疑わしい連絡の報告先を整えます。検出製品を使うなら、対象形式、日本語音声への対応、誤判定、保存先を確認します。NISTは透かし、来歴情報、検出など複数の技術的手段を整理していますが、どれか一つで真偽が確定するわけではありません。
連絡先台帳は定期的に更新し、誰が修正できるかを制限します。相手が送ってきた会議リンク、電話番号、承認画面だけで確認を完結させると、確認経路ごと偽装されるおそれがあります。依頼とは別に管理している連絡先や業務システムを使うことが実践上の要点です。
小さく試す運用例
経理部門で、実在人物を模倣しない架空の台本を使って机上訓練をします。「至急」「いつもの担当者は不在」「この番号へ折返して」といった条件を入れ、依頼中の番号を使わず、社内台帳の番号へ確認できるかを試します。実際の送金は行いません。
受信、保留、別経路の確認、承認、記録までを一巡させます。確認先が不在なら代理承認者へ回し、確認できなければ処理を保留します。見る指標は偽物を当てた割合より、確認を省略した件数、報告までの時間、通常業務への遅延です。手順が守れなかった箇所は、担当者の注意力だけでなく、台帳の不備や締切の設計から直します。
訓練後は、緊急依頼のたびに全業務が止まらないよう、どの変更・金額・処理で追加確認を求めるかを調整します。平常時の正当な依頼でも同じ手順を試し、例外として抜け道を常態化させないか確認します。訓練の成績を個人の責任追及へ使わず、手順の不備を直す材料にします。
人が確認すること・注意点
口元の不自然さや音声の違和感が手掛かりになる場合はありますが、違和感がないことは本物の証明になりません。検出器にも見逃しと誤検出があり、本物を偽物と断定すれば別の被害を生みます。重要な判断では原本、公開元、別経路の本人確認を組み合わせます。
疑わしい素材はむやみに社外へ転送せず、受信時刻や送信元、元ファイルを担当部署の手順で保全します。合成ラベルや来歴があっても内容の正しさまで保証されず、来歴がないだけで偽物とも言えません。本人の顔・声を使う制作は、権利や契約条件を個別に確認します。
社外向けの合成動画では、転載された場合にも合成である説明が伝わるかを考えます。概要欄だけに表示すると動画単体で流通した際に伝わりません。誰がいつ承認した版かを記録し、訂正が必要な場合に元データと公開先を追えるようにします。
関連する事例・テンプレート
記録の出所を確かめる考え方はデータの来歴、検出器の誤りは偽陽性・偽陰性を参照してください。承認経路と事故時の対応はAIガバナンスで整理できます。
参考情報
- NIST：Reducing Risks Posed by Synthetic Content（確認日：2026-09-26）
関連する用語・実践記事
- 生成AIで偽造されたレシートは見抜ける？――これからの経費精算は「画像確認」から「取引照合」へ：人物の偽映像とは対象が異なりますが、生成された画像の真偽判定だけに頼らない確認方法を学ぶ。