この記事のポイント
- AI仮想パートナーアプリが未成年者の心身の健康を脅かす不適切なコンテンツを提供。
- 未成年者保護メカニズムが形骸化しており、容易に回避可能。
- 誘引的な課金システムが、未成年者の過度な消費を招く危険性。
- 7月15日施行の「AI擬人化対話サービス管理暫定弁法」により、未成年者への仮想パートナー提供が制限。
- プラットフォーム、保護者、消費者が連携し、未成年者のオンライン消費安全を守る必要性。
深圳市消費者委員会は、AI仮想パートナーアプリが未成年者に与える隠れたリスクを分析し、多方面での共同管理を通じて、未成年者のオンライン消費安全の防衛線を築くよう呼びかけました。
未成年者の心身を蝕む不適切コンテンツ
一部のプラットフォームでは、仮想キャラクターの露出度の高い服装や、下品で示唆に富む会話、さらには「暴力」や「感情的な殴り合い」といった極端な不適切ストーリーが展開されています。これらは、未成年者の未熟な価値観を歪める可能性があります。実際に、13歳の未成年者としてアプリ内で仮想キャラクターと交流したテストでは、プラットフォームがインタラクションを停止せず、保護メカニズムを起動するどころか、不適切な内容をさらにプッシュするなど、心理的な健康への深刻な危害が懸念されています。
形骸化する未成年者保護メカニズム
調査によると、これらのプラットフォームの青少年モードは、「わかりました」といった簡単な操作で一瞬でスキップできてしまいます。アカウント登録やログインの際にも、実名認証や年齢確認が一切不要なため、未成年者はプラットフォームの管理を容易に回避し、あらゆる不適切コンテンツに無制限にアクセスできてしまいます。これにより、保護メカニズムは実効性を発揮できていないのが現状です。
誘引的な課金トラップが潜む
多くのAI仮想パートナーアプリでは、多層的な課金システムが設定されています。有料で親密なストーリーをアンロックしたり、仮想ギフトを購入したり、専用キャラクターをカスタマイズしたりといった機能を通じて、ユーザーに継続的な課金を誘導します。これは未成年者の消費への依存を招きやすく、問題となっています。さらに、一部のプラットフォームでは、中古取引プラットフォームで性的または露骨な内容の仮想キャラクターが販売されることを黙認・助長しており、オンライン消費のリスクとコンプライアンス上の問題をさらに増大させています。
法規制の強化と関係者への呼びかけ
国家網信弁公室などが共同で発表した「AI擬人化対話サービス管理暫定弁法」が7月15日に施行されます。この法律では、擬人化対話サービス提供者は、未成年者に仮想パートナーのような仮想親密関係サービスを提供してはならないと明記されています。また、14歳未満の未成年者に他の擬人化対話サービスを提供する場合は、事前に保護者の同意を得る必要があります。
深圳市消費者委員会は、プラットフォームに対し、未成年者への仮想パートナーサービスの即時停止、不適切コンテンツの全面的な下架、実名認証や青少年モード、消費上限額などのメカニズムの改善を求めています。また、保護者に対しても、支払いパスワードの管理、子供の消費記録の定期的な確認、AI仮想対話への理性的な向き合い方の指導、そして現実の社会交流や健全な感情観の育成を促しています。消費者がプラットフォームの違法行為や誘導消費を発見した場合は、証拠を保持し、プラットフォームのカスタマーサービス、12315ホットライン、各地域の消費者組織などを通じて、または訴訟を通じて権利を主張するよう呼びかけています。
出典: 元記事を読む
※現在お読みいただいているこの記事は、国内外のニュースソース等から取得した情報を自動翻訳した上で掲載しています。
内容には翻訳による解釈の違いが生じる場合があり、また取得時の状況により本文以外の情報や改行、表などが正しく反映されない場合がございます。
順次改善に努めてまいりますので、参考情報としてご活用いただき、必要に応じて原文の確認をおすすめいたします。