この記事のポイント
- AIによる「声のクローン」技術が悪用され、個人の声紋が不正に商用利用される事態が発生しています。
- 高齢者を狙った詐欺にAI音声が利用され、家族の声になりすまし金銭を騙し取る手口が横行しています。
- AI音声の不正利用は、個人情報侵害だけでなく、社会全体の信頼基盤を揺るがしかねない問題です。
- AI音声の権利侵害における立証の難しさや、プラットフォーム側の対策の不備が現状の課題となっています。
- 技術の健全な発展には、プラットフォーム、司法、規制当局の連携による明確なルール作りが不可欠です。
AIによる「声のクローン」技術の進化と悪用
わずか十数秒の音声データがあれば、個人の声のトーンや話し方を精密に再現し、あらゆる言葉を生成できるAI技術。人工知能（AI）による「声のクローン」技術は日々進化し、私たちの日常生活に溶け込んでいるソーシャルプラットフォームを通じて、その悪用も後を絶ちません。これは、複数の安全上の問題を引き起こすだけでなく、詐欺の新たな手段となり、社会統治に新たな挑戦をもたらしています。
個人の「聴覚ID」を侵害する不正利用
声は、その人固有の「聴覚ID」であり、個人の属性や人格権を担うものです。しかし現在、本人の許可なく声紋が収集され、AI音声パッケージとして訓練され、ショート動画やライブコマース広告で勝手に商業利用されたり、さらには明確な価格がつけられて転売されたりすることで、人格権が侵害されています。さらに、オフラインの電話詐欺の手口も、AIによる声の模倣によって「更新」されています。不正な手口で、犯人は子供や孫の声色を模倣し、交通事故や急な医療費が必要だといった緊急の口実を作り出します。それらの聞き慣れた声を聞いた高齢者は動揺し、確認する間もなく、貯蓄を振り込んでしまうのです。
低コストな侵害と困難な維権
混乱の核心的な問題は、AIによる「声の盗聴」による侵害コストが非常に低く、被害回復が困難であることです。一部のオンラインショッピングサイトや中古取引プラットフォームでは、AIクローンソフトウェアのインストールパッケージや、声の置き換え、音色のカスタマイズサービスなどが、十数元から数百元で多数販売されています。一部の店舗では、すでに千件以上の取引記録があります。購入者の使用評価を見ると、これらのソフトウェアは操作が簡単で、一般人の話し方をクローンできるだけでなく、有名人や著名なキャラクターの声をリアルに再現できるとのことです。
複雑化する証拠収集と責任追及
さらに重要なのは、権利侵害が発生した場合、被害者はほとんどの場合、自分自身や友人の偶然の発見に頼るしかないということです。拡散経路が複雑で、侵害された音声はしばしば複数回の編集やクロスプラットフォームでの転載を経ています。技術的な連鎖には、データ提供者、モデル開発者、プラットフォーム運用者など、複数の関係者が関与しており、誰を訴えるべきか、どのように証拠を収集するかは、被害者にとって大きな困難となっています。
AI技術の健全な発展と社会信頼の維持
技術は野蛮に成長させてはならず、個人の声は無料の道具として扱われるべきではありません。声の真偽が判別しにくくなれば、社会全体の信頼は深刻に侵食されます。プラットフォームは、音声認証システムをアップグレードし、不正な声のモデル販売取引をクリーンアップする必要があります。司法レベルでは、声の権利の認定基準を詳細化し、侵害や詐欺の違法行為のコストを高める必要があります。規制当局は、AIトレーニングプラットフォームにデータソースのコンプライアンス審査を要求し、コンテンツ配信プラットフォームには、迅速な対応が可能な侵害苦情処理メカニズムを確立する必要があります。多方面が協力してAI応用に明確な規範の境界線を引くことで、初めて技術が人間本位で、知能が善に向かうことを確保できます。
出典：新華社
出典: 元記事を読む
※現在お読みいただいているこの記事は、国内外のニュースソース等から取得した情報を自動翻訳した上で掲載しています。
内容には翻訳による解釈の違いが生じる場合があり、また取得時の状況により本文以外の情報や改行、表などが正しく反映されない場合がございます。
順次改善に努めてまいりますので、参考情報としてご活用いただき、必要に応じて原文の確認をおすすめいたします。
