ある日突然、自分がまったく関与していない動画がネット上に出回る。しかも、それは精巧すぎて本物と見分けがつかない。これが今、齋藤飛鳥のような知名度の高い人物が直面しているディープフェイクの現実だ。
齋藤飛鳥とは——なぜ標的になるのか
齋藤飛鳥は乃木坂46の元エースメンバーとして、圧倒的な知名度と美貌を誇る。グループの「センター」を長年務め、2023年3月に卒業した後も女優・モデルとして活動を続けている。そのキャリアの長さと、SNS上に蓄積された膨大な高画質画像・動画の存在が、ディープフェイクの標的になりやすい条件を揃えてしまっている。
ディープフェイク技術は、ターゲットとなる人物の顔画像を大量に学習させることで精度を上げる。公式メディア、雑誌、テレビ出演映像——長年にわたって積み上げられてきた膨大なビジュアルデータが、逆に悪用される「燃料」になってしまう皮肉な構造がある。人気があればあるほど、リスクも高くなる。
ディープフェイクとは何か——技術の仕組みを平易に解説
ディープフェイクとは、AIを使って特定の人物の顔や声などを本物そっくりに他の映像や音声と合成する技術のことをいう。「ディープラーニング（深層学習）」というAI技術と「フェイク（偽）」を組み合わせた言葉であり、例えば、有名人が実際には言っていないことを、さも実際に発言をしているかのような動画や、他人の顔と体を合成したポルノ映像などがこれに該当する。
「動画版のアイコラ」とも言えるが、技術が発達し、一見して偽物とは分からない動画も存在する。SNSなどに多くの画像や動画が投稿されており、素材が入手しやすい上、専用のソフトウェアも流通しているなど、ディープフェイク動画の作成も容易になっている。かつては専門的な映像技術者でなければ到底不可能だった合成映像が、今や一般人でも無料ツールで作れてしまう。それが問題の根本だ。
芸能界での被害実態——アイドルを狙う「フェイクポルノ」の深刻さ
実際の裁判例では、被告人が人工知能を利用して動画中の人物の顔を加工することのできるフリーソフトウェアを使用し、女性芸能人の顔の画像を市販されているアダルトビデオの動画にはめ込み、女性がアダルトビデオに出演しているように見える、いわゆるディープフェイクポルノを作成し、自らが運営するインターネット掲示板で公開していた事案があった。判決では、「このような行為は女性芸能人の側から見れば、タレントとしてのイメージとその名誉を毀損」するものであるとされた。
齋藤飛鳥の名前がディープフェイク関連の検索ワードとして浮上しているのは、彼女が特別に何か問題を起こしたからではない。むしろその逆だ。清廉なイメージ、圧倒的な美しさ、長年蓄積されたメディア露出——それらすべてが悪意ある者の「素材」として悪用されている。被害者は何も悪くない。問題は、技術と倫理観の間に生まれた巨大な溝だ。
生成AIが発展する以前も、アイドル等の写真を切り抜き・合成し、当該アイドル等が別の状況に置かれている写真のように作り替える、アイドルコラージュというものがあった。しかし、アイドルコラージュと比較して、ディープフェイクポルノの方が容易かつ精巧に作成される点で従来のものとは大きく異なる。さらに、インターネットの普及により、一般人が、作成したディープフェイクポルノをインターネット上で公開する事案も増えている。
日本の法律はどこまで守れるのか
現状の日本の法制度には、率直に言って大きな穴がある。現時点において、日本にはディープフェイクの作成や公開そのものを直接的に禁止・処罰する特別法（いわゆる「ディープフェイク規制法」）は存在しない。そのため、被害が発生した場合は、既存の刑法や民法を適用して対処することになる。これは「事後的な対処」にならざるを得ないという点で、拡散スピードの速いデジタル犯罪に対して脆弱であると指摘されている。
では、現行法で何ができるのか。ディープフェイクの作成や利用そのものを直接的に犯罪としている法令が存在するわけではなく、「ディープフェイク作成罪」などといった罪名があるわけでもない。しかし、だからといって処罰されることがないというわけでもない。作成されたディープフェイクの内容や投稿の状況等によって様々だが、名誉毀損罪、侮辱罪、わいせつ物頒布等罪、著作権法違反、児童ポルノ禁止法違反などの犯罪が成立し、これらによって処罰される可能性は十分にある。
特に性的なディープフェイクコンテンツについては、本人と誤認されれば、名誉毀損・肖像権侵害は成立する。「知らなかった」や「遊びのつもり」は免責理由にならない。さらに、「ネタだから」「AIだから本物じゃない」は通用しない。これは多くの人がまだ理解していない重要な法的事実だ。
拡散する側も「加害者」になる現実
ディープフェイクコンテンツを作った人間だけが責任を問われると思っていたら、それは間違いだ。ディープフェイク動画をリツイートした場合には、リツイートによって新たに、より広範に、その人の社会的評価を低下させる表現を広めたことになるため、拡散した人も名誉毀損の責任を負うことになる。
「面白そうだからシェアした」という軽い気持ちが、刑事事件の共犯につながりかねない。インターネット上では、真偽不明の情報が面白半分で拡散されてしまう。それがデマを生み、取り返しの付かない重大な事態を引き起こすことにもなりかねない。特に若い世代には、この「拡散責任」の認識が薄い。SNSの操作一つが加害行為になるという現実は、もっと広く知られるべきだ。
被害に遭ったら——法的対処の流れ
ディープフェイク被害に遭った場合の基本的な流れを整理すると、まず証拠の保全を最優先に行い、次にプラットフォームへの削除申請を行う。並行して弁護士に相談し、発信者情報開示請求による投稿者の特定、そして特定後の損害賠償請求・刑事告訴という流れで対処するのが効果的だ。
ディープフェイクによる被害は放置すると動画が拡散し続け、被害が深刻化する。「どうせ削除できないだろう」と諦めず、早期に法的手段を検討することが被害最小化につながる。また、被害者は、自分や家族の画像が無断で加工・拡散された場合、時間の経過とともに拡散リスクや心理的被害が深刻化する。肖像権やプライバシー権侵害は刑事罰の対象ではないため、警察が積極的に動かないこともあり、早期に弁護士に依頼し、発信者情報開示請求や投稿削除、損害賠償請求などの対策を講じることが肝要だ。
世界と日本の規制比較——各国はどう動いているか
ディープフェイクによる被害が個人の性的搾取から社会的混乱・国家安全保障へと拡大していることから、現在の各国の立法動向には一定の傾向がみられる。すなわち、規制の対象がコンテンツ制作者でなく、プラットフォームやAIサービス提供者へとシフトしており、ディープフェイクを完全禁止するのではなく、明示義務を負わせるなど「透明性」を前提に技術活用の余地を残している点だ。
日本も動いてはいる。しかし、まだ十分とは言いがたい。日本でも2025年に「AI新法（人工知能関連技術の研究開発及び活用の推進に関する法律）」が成立し、透明性確保を掲げているが、具体的な制度設計は今後の検討課題として残る。また、2025年6月に施行されたいわゆる「AI基本法」は、AIの基本理念を定めた枠組み法であり、ディープフェイクに対する罰則は設けられていない。しかし今後、ディープフェイクを直接規制する立法が検討されており、法的環境は急速に整備されつつある。
法的対応には限界もある。既存法との重複や、暗号化通信内での拡散など犯罪利用の死角領域への対応は依然として課題だ。韓国ではすでに性的ディープフェイクコンテンツの制作・所持・閲覧に対して厳しい刑事罰を設けた専用法が施行されている。日本がこの問題で後れをとり続ければ、被害者は増え続けるばかりだ。
プラットフォームの責任と技術的対策
プラットフォーム事業者がディープフェイクコンテンツを削除したり、関連コミュニティを閉鎖したり、関連検索キーワードをフィルタリングするなどの対応も考えられる。しかしプラットフォーム事業者による措置は一応の歯止めとなっているものの、利用者の通報に依存する形であり、対応基準も事業者ごとに異なる。また技術的な検出策も、生成AI技術の進化に追随できないという根本的な限界を抱える。
多くのサービスは「性的コンテンツ」や「ディープフェイク」を禁止しており、規約違反だけでアカウント削除・利用停止になる可能性がある。しかし利用規約で禁止しているだけでは、実効性は限られる。コンテンツが一度拡散してしまえば、完全な削除はほぼ不可能に近い。
2025年4月に施行された情報流通プラットフォーム対処法（情プラ法）は、大規模プラットフォーム（月間利用者数1,000万人超が目安）に対し、利用規約において権利侵害情報（ディープフェイクを含む）への対応方針を明記することを義務付けた。法の網が少しずつ広がっているのは確かだが、技術の進化スピードに追いついているとは言えない現状がある。
「合成だから大丈夫」という幻想を捨てよ
最後に、最も重要なことを明確にしておきたい。「ディープフェイクなら『合成だからセーフ』ではない。たとえAIで合成された偽物の画像や動画であっても、実在人物と誤認される程度に似せていれば名誉毀損・肖像権侵害が成立する可能性がある。さらに性的に露骨な内容であれば「わいせつ物頒布等罪」に問われるリスクもある。「偽物だから大丈夫」という理屈は通用しない。
齋藤飛鳥に関するディープフェイクコンテンツを検索・閲覧・拡散しようとしている人がいるとすれば、それは彼女の尊厳を傷つける行為であると同時に、法的リスクを自ら抱え込む行為でもある。「芸能人だから仕方ない」「AIが作ったんだから」という論理は、裁判所では一切通用しない。
齋藤飛鳥とディープフェイク問題が示す未来への警鐘
齋藤飛鳥のケースは、ある一人の芸能人の問題として矮小化してはならない。これは、AIが生み出した新しい暴力の形が、誰に対しても向けられうるという社会全体の問題だ。有名人であれ、一般人であれ、ネット上に画像が存在する人間ならば誰でも標的になり得る時代が来ている。
技術は止められない。AIは今後も進化を続け、誰でも容易にリアルな画像や動画を生成できる時代が来ている。しかし法は追いついていない。従来の刑法や判例をベースに無理やり適用しているのが現状で、法的な線引きはまだ曖昧だ。その結果、利用者が「これくらいなら大丈夫だろう」と思っても、突然刑事責任を問われることがある。
結局のところ、技術を悪用しないという個人の倫理観こそが、今この瞬間に最も有効な抑止力だ。法律が完備されるのを待ちながら被害者を増やし続けるのか、それとも社会全体として「ディープフェイクは許さない」という意識を育てるのか。齋藤飛鳥を含む多くの著名人が直面しているこの問題は、私たち全員が答えを出すべき問いを突きつけている。
