中国のサイバー空間管理局（中央網信弁）は、AI（人工知能）アプリケーションにおける不正行為の取り締まりを強化しており、最近実施された「清朗・AIアプリ乱象整治」キャンペーンの第2段階において、顕著な成果を上げました。このキャンペーンは、AI技術が悪用され、虚偽情報の拡散、暴力的・低俗なコンテンツの生成、他者になりすます行為、未成年者の権利侵害といった問題に対処することを目的としています。
AIアプリの不正利用に対する厳格な措置
中央網信弁は、各地方のサイバー空間管理局に対し、重点的な整治タスクの推進を指示し、ウェブサイトやプラットフォームに対してAIによって生成されたあらゆる種類の違法・不適切情報の集中的な削除を督促しました。その結果、現時点までに、561万件以上の違法・規約違反情報が削除され、4.9万件以上のアカウントが処分されました。さらに、2,400件を超えるウェブサイトやアプリケーションが是正措置を受けました。
摘発された典型的な事例
中央網信弁は、今回のキャンペーンで摘発されたいくつかの典型的な事例も公表しました。これには、AIを用いて古典作品を改変したり、「デジタル汚物」と呼ばれる不適切なコンテンツを生成したりするケース、AIによる虚偽・不正確な情報の制作・公開、AIによるなりすまし行為、暴力的・低俗な情報の制作・公開、AIによる未成年者の権利侵害、AIを利用した「サイバー水軍」活動の「委託」による実行、AI製品・サービスおよびアプリケーションの規約違反などが含まれています。
今後の展望
今後、サイバー空間管理局は、今回の特別行動で得られた効果を総括するとともに、AIの発展トレンドと法則性をさらに把握し、AI生成コンテンツに関する新たな状況やリスクに密接に注意を払っていく方針です。AI技術の悪用・誤用を効果的に防止するための措置を適宜講じ、AIの革新的な発展に向けた良好な環境を引き続き整備していくとしています。
出典: 元記事を読む
