「AIディープフェイクとは何だろうか」
「AIディープフェイクは違法になるのだろうか」
と気になりませんか。
AIの進化により、写真や短い音声データから、本物に近い画像・動画・音声を作成できるようになっています。
このような技術は「ディープフェイク」と呼ばれます。
映画や広告などに活用される一方で、著名人を装った投資詐欺広告や、経営者になりすました送金詐欺などに悪用されるケースもあり、企業にとって無視できないリスクとなっています。
現時点の日本法では、ディープフェイク技術そのものを一律に禁止する包括的な法律はありません。
しかし、使い方によっては、著作権侵害、肖像権侵害、名誉毀損などの法的責任を問われる可能性があります。
本記事では、AIディープフェイクの基本的な仕組みから、企業が知っておくべき法的リスク、具体的な対策までを弁護士がわかりやすく解説します。

ディープフェイクとは、AIを使って作成された、本物に近い画像・動画・音声のことです。
たとえば、実際には発言していない内容を、本人が話しているように見せる動画を作ったり、別人の顔を自然に合成したりできます。
一昔前であれば、こうした映像を作るには高度なCG技術や専門的な編集スキルが必要でした。
しかし、現在では一般向けのアプリやオンラインサービスを使えば、専門知識がなくても短時間で作成できます。
そのため、企業の広告や動画制作に役立つ一方で、詐欺や誹謗中傷に悪用されるケースも増えています。
近年のAI技術の進歩により、少ない画像や音声データからでも、本人に近い見た目や声のコンテンツを作成できる場合があります。
たとえば、自社のホームページに掲載している社長の写真や、YouTubeに公開しているセミナー動画が、そのまま悪用される可能性があります。
「うちの会社は大企業ではないから関係ない」と考える経営者もいますが、公開されている画像や音声があれば、中小企業でも十分に標的になり得ます。

現時点の日本法では、「ディープフェイクを作成した」というだけで直ちに違法になるわけではありません。
包丁そのものが違法ではなく、使い方によって問題になるのと同じです。
正当な目的で使えば問題になりにくい一方、他人を害する目的で使えば法的責任を問われる可能性があります。
AI技術そのものよりも、具体的な利用方法や利用目的が問題になります。
他人の写真や動画を無断で利用したり、虚偽の内容を拡散したりすると、さまざまな法的責任を問われる可能性があります。
つまり、重要なのは「ディープフェイクを使ったかどうか」ではなく、「どのように使ったか」です。
この点を誤解すると、「AIを使っただけだから問題ない」と判断してしまい、思わぬトラブルに発展することがあります。
近年では、著名人の顔や名前を無断で使用した投資詐欺広告が大きな社会問題になりました。
あたかも本人が投資商品を推薦しているように見せかけ、多くの被害が発生しています。
この問題により、AIによるなりすましや偽広告の危険性が広く意識されるようになりました。
企業の経営者にとっても、「自社の社長の顔や声が悪用される可能性がある」という点で、決して他人事ではありません。

写真、動画、音楽、ナレーション、講演動画などの著作物を無断で利用した場合、著作権侵害となる可能性があります。
たとえば、他社の広告動画を素材として利用し、その映像をAIで加工した場合でも、元の著作物の利用について許諾が必要になることがあります。
本人の許可なく顔や姿を利用した場合、肖像権侵害となる可能性があります。
たとえば、取引先の社長の顔写真をAIで加工し、自社の広告に使用した場合には問題になる可能性があります。
虚偽の動画や音声によって他人の社会的評価を低下させた場合、名誉毀損に該当する可能性があります。
たとえば、競合他社の社長が不正行為を認めているような偽動画を作成・拡散した場合には、重大な法的責任を問われるおそれがあります。

海外では、経営者や役員になりすまし、AIによる映像や音声を悪用して送金を指示する詐欺事例も確認されています。
声が本人そっくりであれば、従業員が疑わずに対応してしまう可能性があります。
ディープフェイクによって、経営者が実際にはしていない発言をしているように見せかけた動画を作成することも可能です。
例えば、社長が顧客を軽視するような発言をしている動画や、不適切な言動をしている動画がSNSで拡散されれば、企業の信用は大きく損なわれます。
企業にとって信用は重要な資産です。一度でも「この会社は大丈夫なのか」と疑念を持たれると、取引先との関係悪化や採用活動への悪影響につながる可能性があります。
また、たとえ後から偽物だと判明しても、拡散された情報を完全に回収することは容易ではありません。
自社でAIを活用して広告やSNS投稿を作成する際にも注意が必要です。
例えば、第三者の顔写真を無断で使用したり、既存の動画を素材としてAI加工したりすると、著作権や肖像権を侵害する可能性があります。
「AIが自動で作ったものだから問題ない」と考える方もいますが、実際には、生成物の内容や元データの利用方法によって法的責任を問われることがあります。
特に、企業の公式アカウントや広告で使用した場合には、拡散力が高いため、トラブルが大きくなりやすい点に注意が必要です。
ディープフェイクのリスクは、外部からの攻撃だけではありません。
従業員が面白半分で上司や取引先の顔を加工した動画を作成し、社内外に共有してしまうケースも考えられます。
本人に悪意がなくても、名誉毀損や肖像権侵害に該当する可能性があります。
また、その内容がSNSで拡散されれば、「コンプライアンス意識の低い会社」という印象を与え、企業全体の信用問題に発展することもあります。

口の動きと発言内容が微妙にずれている場合は、AIで生成された可能性があります。
目の動きや表情に不自然さがある場合は、ディープフェイクの可能性があります。
公式サイトや公式SNSで同じ情報が発信されているか確認することが重要です。
重要な指示を受けた場合には、電話をかけ直すなど別の方法で確認しましょう。

社内でAIを利用する場合には、利用目的や禁止事項を明確にしたガイドラインを整備しておくことが重要です。
例えば、
といったルールを定めておくことで、トラブルを未然に防ぎやすくなります。
送金や契約など重要な指示については、たとえ社長の声や映像であっても、そのまま信用しないルールを設けることが重要です。
例えば、一定額以上の送金については、電話の折返し確認や複数人の承認を必須にするといった運用が有効です。
こうした仕組みを作っておくことで、なりすまし詐欺のリスクを減らしやすくなります。
ディープフェイクの手口や見分け方を周知し、被害を防ぐことが重要です。
ディープフェイクは、写真や短い音声データから、本物に近い画像・動画・音声を作成できる技術です。便利な技術である一方、著作権侵害や肖像権侵害、名誉毀損などの法的問題につながる可能性があります。
AIの活用方法やディープフェイクへの対応について不安がある場合は、当事務所までお気軽にご相談ください。