この記事のポイント
- 著名人の顔や音声をAIで無断生成し、商品を宣伝・販売するディープフェイク被害が頻発しています。
- 主要プラットフォームのAI開示機能は投稿者の「自主申告」に依存しており、悪意ある投稿の抑止力になっていません。
- 検出技術の難しさやコストを言い訳にせず、特徴的な悪質パターンを積極的に遮断する責任がプラットフォーム側に求められています。
相次ぐ著名人のAIなりすまし販売被害
AI技術の急速な進化に伴い、著名人の肖像や音声を無断で模倣した「なりすまし販売動画」が深刻な問題となっています。2024年10月18日、俳優の呉越（ウー・ユエ）氏は、あるアカウントが自身の顔と音声を無断使用して化粧品を販売しているとSNSの微博（Weibo）上で告発しました。公開された動画では、同氏の容姿だけでなく音声までもが精密に再現されており、さらには卓球界の元著名選手の類似画像まで同時に表示されるなど、悪質な合成が行われていました。
こうした被害は呉越氏にとどまりません。俳優の温崢嵘（ウェン・ジョンロン）氏の顔を用いたライブコマースや、オリンピック金メダリストである全紅嬋（グアン・ホンチャン）選手の音声をAIでクローンし、孫穎莎選手や王楚欽選手の肖像と共に農産物を販売する事例など、多数の有名人がターゲットにされています。
自主申告頼みの審査システムが抱える抜け穴
なぜこのようなAIによるなりすましが容易に横行してしまうのでしょうか。今日頭条（Toutiao）、抖音（Douyin）、小紅書（Xiaohongshu）、快手（Kuaishou）、Weiboなどの主要プラットフォームの投稿フローを確認すると、重大な構造的欠陥が浮かび上がります。
多くのプラットフォームでは、「AI生成コンテンツを含む」「マーケティング目的」「演出された虚偽内容」といったラベルの付与が、投稿者自身の選択（自主申告）に委ねられています。つまり、AI換顔（フェイススワップ）動画に警告ラベルが付くかどうかは、不正を行う側のモラルに依存しているのが実情です。仮にラベルが表示されていたとしても、一般の視聴者には「顔や声が偽造されているのか」「字幕やエフェクトにAIが使われているだけなのか」を判別することは困難です。
法規制の面では、2025年9月に施行される「人工知能生成合成コンテンツ識別弁法」により、プラットフォームに対してファイルのメタデータ検証や疑わしいコンテンツへの注記が義務付けられます。また、最高人民法院もAIを用いたなりすまし販売について、詐欺と認定された場合の懲罰的損害賠償を支持する見解を示しています。しかし、現場の運用が投稿者の自主申告に頼っている現状では、防壁として十分に機能しているとは言えません。
技術的難度を理由にしたプラットフォームの免責は許されない
プラットフォーム側にとって、ディープフェイク（高度な偽造技術）の検出が困難であることは事実です。日々投稿される膨大な動画やライブ配信を常時監視することは計算コストが極めて高く、フィルター処理や再圧縮が施された動画ではアルゴリズムの検知漏れも生じます。とりわけリアルタイム性が求められるライブ配信では、アルゴリズムが偽造を判定した頃にはすでに商品の決済が完了しているというタイムラグの問題も存在します。
しかし、技術的な課題があるからといって、プラットフォームがリスク管理を怠る理由にはなりません。単にユーザーへ申告オプションを提供しただけで、審査義務を果たしたとみなすことは不十分です。「著名人の肖像＋商品販売リンク＋誇大広告の文句」という組み合わせはパターンとして明確であり、プラットフォーム側にも遮断に向けた技術的アプローチが可能なはずです。
プラットフォームが付与する警告表示は、消費者のリスク回避を助けるためのものなのか、それとも事業者側の免責のためのものなのかが厳しく問われています。トラフィックによって収益を得ている以上、プラットフォームはより実効性のある検知と防御の責任を果たさなければなりません。
出典: 元記事を読む
