ディープフェイクとは？映像・画像・音声の範囲と会社で確認したいリスク対策

会議の録画やSNSの投稿、取引先を名乗る音声つきの依頼に、人物の見た目や声が本物らしく作られたものが混ざることがあります。ディープフェイクは映像だけでなく、画像や音声にも及ぶため、見た目や声だけで判断しにくい点が引っかかります。

重要な依頼は、媒体の見分け方だけで確かめきれません。誰から、どの経路で、何を求められたのかを、いつもの連絡手段や社内の確認手順と照らすことが判断の軸になります。

この記事では、ディープフェイクの範囲と作られ方を確認し、会社に関わるリスク、来歴情報や電子透かしの受け止め方、備え方を整理します。AI音声クローンとの違いも、役割が重ならないよう短く扱います。

ディープフェイクとは何ですか

ディープフェイクという語は、映像だけを指すとは限りません。本記事では、生成AIなどで人物や出来事を本物らしく見せるように生成・改変した画像、映像、音声を、確認が必要なディープフェイクとして扱います。

画像では一枚の静止画、映像では表情や動き、音声では発話や声色が対象になり得ます。同じコンテンツに複数の形式が組み合わさる場合もあります。

AI音声クローンは、特定の人の声を再現する技術です。ディープフェイクを考えるときの音声領域に関わり得ますが、音声クローンそのものの説明はAI音声クローンとはで確認できます。

「AIで生成されたもの」と「人を本物らしく見せるように改変されたもの」は、重なりつつ同じではありません。業務で確認が必要になるのは、誰が何を作ったか、どう共有されたかが判断に影響する場合です。

ディープフェイクはどう作られるのですか

生成AIは、入力データの構造や特徴をまねて、画像・動画・音声などの合成コンテンツを生成するモデルの類型として説明されています。ディープフェイクでは、既存の素材への編集や生成された素材の組み合わせによって、人物の見た目、動き、声などを変えたメディアが作られることがあります。

作られ方は、元となる素材の種類と、画像・映像・音声のどこを生成・編集するかで異なります。個々のサービスの操作方法や必要な素材は異なるため、本記事では特定の作り方の手順は扱いません。

会社で確かめたいのは、作成に使われた技術の名称だけではありません。人物の素材を含むか、外部へ共有するか、重要な意思決定に使うかを、案件ごとに確認する必要があります。

会社にとってどんなリスクがありますか

合成・編集されたコンテンツであることだけで、危険性を判断できるわけではありません。会社にとっての影響は、その内容が誰になりすまし、どの行動や対外コミュニケーションにつながるかで変わります。

なりすましを伴う重要な依頼

FBIのIC3は、オンライン会議で経営層を装う静止画またはディープフェイク音声を用い、従業員に送金を求める手口を注意喚起しています。重要な依頼を声や映像だけで受け取ると、本人確認と依頼内容の確認が分かれない状態になり得ます。

IPAも、機密情報の送信や多額の送金を促す依頼では、二重・三重の確認を欠かさないよう案内しています。送金に限らず、取引先情報の変更や機密情報の送信など、後戻りしにくい行動では確認の経路を分ける視点が役立ちます。

誤認が信用や説明対応に及ぶ場面

会社名、従業員、公式発信と誤認されるコンテンツが共有された場合、取引先や顧客に内容を説明し、正しい情報を示す対応が必要になることがあります。NISTは、現実的な合成コンテンツがデジタル情報の信頼性、透明性、信用性に関わるリスクを持つと整理しています。

対外発信に使う画像・映像・音声をAIで作る場合も、どのメディアを使ったか、誰が承認したかを確認できる状態にしておくと、問い合わせがあったときに内容をたどりやすくなります。

本物かどうかはどう確かめますか

IPAは、重要な依頼では映像や音声の見た目だけを根拠に結論を出そうとせず、別経路を含む複数の確認を重ねるよう案内しています。連絡経路、来歴情報、社内の確認手順は、依頼の確認材料として分けて扱います。

連絡の事実を別の経路で確かめる

依頼者の所属、連絡先、依頼内容は、当該の画像・映像・音声とは別の記録や、通常使う連絡先で照合します。IPAの資料とFBI IC3の注意喚起はいずれも、重要な依頼に複数の確認や別経路を使う考え方を案内しています。

この確認は、媒体がAI生成かどうかを判定するためだけのものではありません。依頼の内容、時期、承認の流れが自社の手順と一致するかを確かめる材料になります。

来歴情報と電子透かしを確認材料にする

Google Gemini Appsは、対応するファイル形式で、Content Credentialsに記録された作成元や編集履歴を確認できると説明しています。

NISTは、来歴追跡、ラベル付け、検出を別々の技術的アプローチとして扱っています。

GoogleのGemini Appsは、Google AIツールで作成・編集されたコンテンツについてSynthIDを確認する仕組みを案内しています。Googleの説明では、SynthIDが検出されない結果でも、他社のAIで作られた可能性は残ります。

OpenAIも、自社対応コンテンツのC2PAやSynthIDを来歴シグナルとして説明しています。ただし同社は、その結果が内容の正確さ、未編集、権利、文脈の正しさを保証するものではないと明記しています。

会社として何を備えておくとよいですか

備えの中心は、特別な検出ツールだけではありません。重要な依頼を受けたときに、誰が、どの連絡先で、どの段階を確認するかを、ふだんの業務フローとして決めておくことです。

重要な行動を別経路で確認できるようにする

口座情報の変更、送金、機密情報の送信などは、依頼を受けた媒体だけで完結させず、あらかじめ定めた別経路と承認者を使う設計があります。連絡先、確認者、記録の置き場を担当者が迷わない形にすると、緊急性を装う依頼でも手順をたどれます。

不審な内容を受け取ったときの連絡先も、担当者が使える形で整理します。これは、メディアを技術的に判定できることとは別に、組織としての確認を始めるための準備です。

発信と受信のルールを分けて整理する

自社がAIで画像・映像・音声を作る場合と、外部から受け取ったメディアを確認する場合は、分けて整理します。利用するサービスごとに、人物素材、出力、来歴情報について何が説明されているかを確認する必要があります。

会社での利用可否は、本記事だけで一律に判断できません。自社の規程、取引条件、利用するサービスの仕様を、扱う人物素材と公開範囲に合わせて確認してください。

誰が判断し、誰が確認するかを整える考え方は、AIガバナンスとはで詳しく扱っています。AI利用時の役割や記録を考える際は、責任あるAIとはも参考になります。

まとめ

ディープフェイクは、映像だけでなく画像や音声にも関わる合成・改変メディアの現象です。AI音声クローンはその音声領域に関わる技術であり、同じ説明を繰り返さずに分けて考えると整理しやすくなります。

Google Gemini AppsとOpenAIが説明する電子透かし・来歴情報は、対応するファイル形式や各提供元の範囲での確認材料です。

IPAは、重要な依頼では見た目だけを根拠に結論を出さず、別経路を含む複数の確認を重ねるよう案内しています。

会社としては、重要な行動を別経路で確認できるようにし、発信と受信のルール、担当者と連絡先を整理します。利用の可否は、扱う素材と公開範囲に応じて、自社の規程とサービスの説明を確認することから始めます。

この記事の出典

• Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile（NIST、2024年7月26日公開）
• Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency（NIST、2024年11月20日公開）
• AI利用者のためのセキュリティ豆知識（独立行政法人情報処理推進機構、2026年4月2日公開）
• Business Email Compromise: Virtual Meeting Platforms（FBI Internet Crime Complaint Center、2022年2月16日公開）
• Verify AI-generated images, videos and audio（Google Gemini Apps Help、2026年9月13日確認）
• Provenance signals in OpenAI-generated content（OpenAI Help Center、2026年9月13日確認）