最近のCCTVの報道によると、電動歯ブラシのブランドやモデルの多さに圧倒された消費者が、人気のAIツールに頼りました。しかし、AIが推奨した製品を購入した後、市場には同価格帯で機能的にも同等の製品が多数存在し、AIが推奨した歯ブラシが必ずしも最適なものではなかったことが判明しました。一方、CCTVの調査では、「AIに製品を推奨する」ことに特化した企業、Generative Engine Optimization（GEO）の存在が明らかになりました。これは、AIが潜在的な消費者に特定のブランドや製品を標準的な回答として推奨することを目指しています。
近年、生成型AIは我が国において様々な層の日常生活に徐々に浸透し、ユーザー規模と普及率が爆発的に増加しています。統計によると、2025年6月時点で、我が国の生成型AIユーザー数は5億1500万人に達しています。デジタル時代の有益なアドバイザーとして、生成型AIは消費者の意思決定における重要な入り口となりつつあります。書籍、映画、化粧品の選定から金融商品、住宅、自動車の購入に至るまで、強力なデータ処理能力を持つ生成AIは、消費者に豊富な選択肢とソリューションを提供し、意思決定の負担を効果的に軽減することができます。AIは長らく、検索エンジンが誕生した当初に人々が抱いた信頼のように、中立的なコンテンツ制作ツールであり、新しいタイプのインフラと考えられてきました。しかし、現実は異なるかもしれません。クリック課金広告や検索エンジン最適化（SEO）といった商業活動の関与により、これらの技術ツールの客観性と中立性は再検証されています。GEOサービスは多数の製品記事を作成し、AIが頻繁にコンテンツをクロールするプラットフォームに配信することで、AIが関連情報をインデックスしやすくし、製品のプロモーションを促進しているという報告があります。 AIが生成・推奨するコンテンツを、均質な広告記事の大量配信や権威ある情報の捏造を通じて操作することは、重大なリスクを伴います。消費者を誤解させ、正当な権利と利益を損ない、公正な競争市場環境を混乱させるだけでなく、「データ汚染」を容易に招き、AI生成コンテンツの信頼性を著しく低下させ、AI技術に対する国民の信頼を揺るがす可能性があります。
「インターネット広告管理弁法」は、インターネット広告は識別可能でなければならず、消費者が広告であることを識別できるようにする必要があると明確に規定しています。商業プロモーションを専門家のレビュー、業界レポート、または科学論文に偽装し、AIが「客観的かつ公平な」推奨を提供するように「誘導」することは、インターネット広告の識別可能性要件に明らかに違反し、消費者の知る権利を侵害します。一方、「生成人工知能サービス管理暫定弁法」は、虚偽および有害な情報の生成を明確に禁止し、生成AIサービスにおける生成コンテンツの透明性、正確性、信頼性の向上を求めています。 AI検索結果に有料コンテンツが混入することは、AI生成コンテンツの正確性と信頼性に必然的に悪影響を及ぼし、生成AIの健全かつ標準化された発展を阻害し、公共の利益を損ないます。
生成AIの現在の技術的限界を考慮すると、AIによる推奨が人為的に「汚染」されるのを防ぐには、複数の関係者による協調的な取り組みが必要です。AIプラットフォームにとって、マーケティングコンテンツや虚偽情報を識別する能力の向上は不可欠です。例えば、アルゴリズムを最適化してデータソースの追跡とスクリーニングを強化したり、推奨コンテンツにリンクを付与してユーザーによる検証を可能にしたりすることができます。関係部門は、技術革新に迅速に対応し、GEOサービスを規制の対象とし、AIプラットフォームが責任を効果的に果たすことを促すことで、「データ汚染」による利益の連鎖を断ち切る必要があります。例えば、有料検索ランキングに関する規制を参考に、生成AIプラットフォーム上の有料プロモーションコンテンツにラベル表示を義務付けることが考えられます。ユーザーは、AI生成コンテンツを合理的に捉え、デジタルリテラシーとメディアリテラシーを継続的に向上させ、中立性を装ったマーケティングの罠に陥らないようにする必要があります。
インターネットが大きな期待とともに誕生したように、生成型AIの発展もまた、生産と日常生活を強化する技術革新への人々の切望を体現しています。AIの「思考」のあらゆる事例は、特定の問いに答えるだけでなく、ある程度、私たちが理想とする世界への期待を反映しています。AIの継続的な進化の道のりにおいて、法規制と政策による規制と指導を通して、社会利益と商業利益のバランスをとることによってのみ、テクノロジーは真に社会に貢献し、人類に恩恵をもたらすことができるのです。
出典：Legal Daily、Yang Jiayi
出典: 元記事を読む
※現在お読みいただいているこの記事は、国内外のニュースソース等から取得した情報を自動翻訳した上で掲載しています。
内容には翻訳による解釈の違いが生じる場合があり、また取得時の状況により本文以外の情報や改行、表などが正しく反映されない場合がございます。
順次改善に努めてまいりますので、参考情報としてご活用いただき、必要に応じて原文の確認をおすすめいたします。