この記事のポイント
- AI技術の進化に伴う「AIなりすまし」や「フェイク情報」などの権利侵害に対応するため、最高人民法院が司法解釈を発表しました。
- 「AI換顔」や「AI声質模倣」による人格権侵害、AIによる「ビッグデータ差別」や「有名人なりすまし」について、具体的な規律が示されました。
- AIが生成した不正確な情報（AI幻覚）による権利侵害についても、AIサービス提供者の責任が明確化されました。
- 被害者が迅速な差止請求（人格権侵害禁止命令）を行えるよう、手続きが整備されました。
- AI技術の健全な発展と、個人の権利保護の両立を目指す法的枠組みの整備が進められています。
AI技術の進化と新たな課題
ビデオ通話で「知人」を名乗って借金を申し込んだり、有名人のアバターが一瞬で複製されたり――。人工知能（AI）技術は、社会の発展を強力に推進する一方で、社会の安全保障に新たな挑戦をもたらしています。
AIという「駿馬」を、速く、かつ安定して走らせるためにはどうすれば良いのでしょうか。2023年9月7日、中国の最高人民法院は、AI関連の紛争案件の審理に関する意見を発表しました。これは、デジタル時代における民事権利の司法保護を強化し、AIの健全かつ秩序ある発展を促進することを目的としています。
この意見は全5部24条から構成されており、「AI換顔・声質模倣」、「AI幻覚」による侵害、「ネット上の個人情報暴露（開盒）」、「ビッグデータによる不当な差別（殺熟）」、自動運転、AIモデルの訓練など、社会各界が広く関心を寄せている問題に的確に焦点を当てています。そして、AI関連紛争案件における実体的な裁判および訴訟手続きの規則を明確にしています。
AIによる「なりすまし」と「偽情報」への法的規制
数枚の写真や数十秒の録音だけで、本物と見分けがつかない「デジタルアバター」が製造される――。AI技術を利用した偽造や権利侵害行為は、どのように法的に規制されるのでしょうか。
最高人民法院研究室副主任の司艶麗氏は、次のように述べています。「『AI換顔』や『AI声質模倣』などの行為に対し、本人の同意なくAIを用いて氏名や肖像などを処理し、その個人を識別できる仮想デジタルイメージを生成・使用・公開した場合、氏名権や肖像権などの人格権侵害に該当する、と意見では明確にしています。また、本人の同意なく声音を学習データとして使用し、その音色、イントネーション、発声スタイルを模倣して識別可能な合成音声を生成した場合は、声音権の侵害に該当します。」
さらに、「仮想イメージを操作したり、合成声音を用いて不適切な行為を行ったり、虚偽の発言をしたりすることで、他者の社会的評価を低下させた場合、名誉権の侵害に該当し、行為者の侵害責任を法に基づいて追及します。」と付け加えています。
「ビッグデータ差別」と「有名人なりすまし」への対応
これまで、AIアルゴリズムによって引き起こされる「ビッグデータによる不当な差別」は度々指摘され、「有名人を模倣した商品販売」も注目を集めてきました。
最高人民法院研究室主任の周加海氏は、「消費者にすべて『火眼金睛』（真偽を見抜く鋭い目）を持てとは言えません。法律はタイムリーに剣を抜き、消費者の合法的な権利を守らねばなりません。」と述べています。
本意見では、「同一の商品またはサービスに対し、事業者がアルゴリズムを利用して取引価格などの取引条件において不合理な差別的待遇を行い、他者の合法的な権利を侵害して損害を与えた場合、人民法院は法に基づいて相応の侵害責任を認定すべきである」と明確にされています。また、「AIを利用して有名人を模倣して商品販売を行い、詐欺に該当する場合は、消費者が懲罰的賠償を請求した際、人民法院は法に基づいてこれを支持する」としています。
「AI幻覚」による権利侵害と責任
実務において、一部の生成AIは、質問と関係のない回答や不正確な情報といった「AI幻覚」現象を頻繁に発生させています。これはユーザーを困惑させるだけでなく、他者の合法的な権利を侵害する可能性もあります。
この点について、本意見では「AI幻覚」による人格権侵害などの問題に対する規定が設けられています。生成AIが自動生成した内容が人格権を侵害し、権利者から通知を受けた後も、AIサービス提供者が侵害コンテンツの生成停止などの必要な措置を適時に講じなかった場合、発生した損害に対して法に基づいて侵害責任を負う、と明確にされています。
同時に、「ネットワークユーザーが、侵害を促すキーワードなどの方法で悪意を持って生成AIに侵害コンテンツを生成させ、他者に損害を与えた場合、当該ネットワークユーザーは法に基づいて責任を負う。権利者からの通知後も、AIサービス提供者が侵害コンテンツの生成停止や関連する生成指示のブロックなどの必要な措置を適時に講じなかった場合、権利者が当該ネットワークユーザーおよびAIサービス提供者に対して民事責任を請求する時、人民法院は法に基づいてこれを支持する」としています。
AIによる権利侵害への迅速な差止請求
AIによる「なりすまし」などの権利侵害に遭遇した場合、どのように迅速に侵害行為を制止できるのでしょうか。
「本意見では、人格権侵害禁止命令の適用について特別に明確化しています。」と司氏は例を挙げて説明しました。「被害者が、自身がAI換顔によって『悪評』を立てられている証拠を有しており、迅速に制止しなければ合法的な権利が回復不能な損害を受ける可能性がある場合、人民法院に人格権侵害禁止命令を申請することができます。人民法院は審査後、ネットワークユーザーに対し関連する侵害行為の停止を命じるだけでなく、ネットワークサービス提供者やAIサービス提供者に対し、必要措置を適時に講じるよう命じ、損害のさらなる拡大を防ぐことができます。」
AIの未来と法的枠組みの重要性
AIの波は加速していますが、その方向性は制御可能でなければなりません。法規制の不断の整備、プラットフォーム責任の強化、そして国民教育の推進を通じてのみ、技術の飛躍の時代において、すべての人々の合法的な権利を守ることができるのです。（記者：馮家順）
出典：新華網
出典: 元記事を読む
