この記事のポイント
- インドの研究チームが、判定精度98％を超えるフェイクニュース自動検出AIを開発
- Transformerと群知能最適化アルゴリズムを組み合わせ、パラメータ調整を自動化
- テキスト分析の効率化により、SNSなどでの誤情報の拡散抑止への貢献が期待される
- 今後は画像・動画を含むマルチモーダル分析や実環境のSNSデータ検証へと拡張予定
98％超の判定精度を誇るフェイクニュース検出AI
インドのKoneru Lakshmaiah教育基金会の研究チームが、フェイクニュースを自動検出する人工知能（AI）システムを開発しました。2つのデータセットを用いた検証テストにおいて、98％を超える判定精度を達成しています。これは、100本のニュースのうち、フェイクニュースを見落とす確率がわずか1〜2本程度にとどまることを意味します。本研究成果に関する論文は、学術誌『International Journal of Information and Computer Security』の最新号に掲載されました。
Transformerと群知能アルゴリズムの融合技術
新システムの核となる技術には、Transformerエンコーダーが採用されています。Transformerは、アテンション機構に基づくディープラーニング（深層学習）モデルであり、単語と文脈の関連性を識別することでテキストの意味をより正確に理解することが可能です。
研究チームはさらに、このモデルに「鹿の群れの狩猟行動を模倣した最適化アルゴリズム」を組み合わせました。これは群知能（Swarm Intelligence）最適化手法の一種であり、人間が手作業でモデルパラメータを選定・校正することなく、自動で微調整を行うことができます。また、テキストをモデルに入力する前にURLや句読点などを事前に除去することで、解析効率の向上を図っています。
ファクトチェックの高速化と今後の展開
自動検出技術の導入は、従来のファクトチェック（事実確認）プロセスを大幅に加速させます。従来の人手による検証作業は高コストかつ長時間を要していましたが、本システムを活用することで、ソーシャルメディアプラットフォーム上での誤解を招くコンテンツを迅速にスクリーニングし、拡散を未然に防ぐことが期待されます。
研究チームの次のステップとして、実際のソーシャルメディア上のコンテンツを用いた検証が予定されています。ここでは、欺瞞的な情報と、極めて類似した正規の報道を正確に判別できるかがテストされる見込みです。
なお、現行の手法はテキストデータのみに限定されており、画像の改ざんやディープフェイク（Deepfake）動画、画像とテキスト間の矛盾などを識別することはできません。今後の研究では、マルチモーダルなコンテンツ分析への拡張や、発信者とコンテンツの関連性を分析するアプローチが探求される見通しです。
出典: 元記事を読む
