コロナ禍によって拡大した、デマ・陰謀論コンテンツ市場

なお、25億円というのは500のサイトのみの数字で、英文のみの範囲なので全体ではさらに多いと想定される。たとえば、2020年3月に公開されたGDI（Global Disinformation Index）社の推定によると、EUでデマを拡散するサイトは毎年76億円以上を稼いでおり、およそ60%はグーグルの広告配信からのものだった。そして、グーグル、Criteo、Taboola、OpenX、Xandrの5社で全体の90％を占めていた。

GDI社は引き続き、広告配信がネット世論操作の温床になっていることを示すレポートを公開し、「Russian influence disinformation」ではインフォデミックを利用してネット世論操作を拡大するロシアの脅威も明らかになった。

こうした流れを受けて2021年5月21日、欧州委員会はネット世論操作対策ガイダンスを公開し、この中で広告エコシステムからフェイクニュースや陰謀論、デマを排除することが成功の鍵であるとした。そのためにはSNSプラットフォームの協力が必要であり、幅広い関係者の参加を求めていた。このガイダンスについては拙ブログで詳しい内容をご紹介している。

コロナに関する新しいニュースを利用してアクセスを伸ばすデマサイト

GDI社のレポートによると、こうしたフェイクニュースやデマを拡散するサイトは、ワクチンに関するなんらかの新しいニュース（ワクチンパスポート、ワクチンの有効性などに関するもの）を拡散するチャンスに利用している。そのため、本来ならば正しい情報がニュースを通じて広まるべき時に、誤った情報も広く流布することになってしまっている。

2021年の年初から4月1日までのデータによると、ワクチンに関する大きなニュースのたびにこうしたサイトのアクセスが大きく伸びていたがわかっている。この期間中、もっともアクセスが多かったのはファイザーが子供への治験について発表した3月25日だった。この時もグーグルを始めとする各種広告配信ネットワークが利用された。

プラットフォームのコンテンツチェックはほとんど役に立たなかった

もちろん、プラットフォーム各社もコンテンツ・モデレーションを行って問題ある投稿を削除するなどの措置を講じている。しかし、前掲のNEW AMERICAとオクスフォード大学のレポートによれば、そこにはかなり問題がある。オクスフォード大学のデータメモは、「グーグルはYouTubeから有害コンテンツを削除するが、問題あるサイトの運営者は広告トラッカー、決済サービス、クラウドサービスなどの目立たないバックエンドサービスから、資金やデータの流れの面で引き続き利益を得ることができる。同様に、フェイスブックは傘下のSNSから有害なコンテンツを削除することができるが、様々なウィジェット、広告、分析トラッカーを通じて、問題のあるコンテンツに利益を与えている」と指摘している。

NEW AMERICAのレポートは、プラットフォームはアルゴリズムで投稿を削除しているが、その内容は不透明である、としている。たとえば、なにをいつなぜ削除したかを公開していない。パンデミックの最中、プラットフォームでの投稿の扱いが不透明であることに危惧を覚えた75の団体と研究者が、「システムが自動的にブロックしたり削除したりしているもの」の情報を保存するようSNS企業に求める公開書簡を発表したことを紹介している。

問題なのはターゲット広告とアルゴリズム

2018年のアメリカ全体のデジタル広告費の60％をフェイスブックとグーグルが占めていた。2016年の大統領選でSNSプラットフォームがネット世論操作に利用されて以来、各SNS企業は対策を講じているものの効果は限定的だ。コンテンツ・モデレーションのルールには一貫性がなく、しばしば恣意的に運用されているため、活動家やジャーナリストのコンテンツが不当に削除され、表現の自由が制限などの問題が起きている。こうした問題に対して、SNSプラットフォームにユーザの投稿に対する法的責任を負わせることを検討している政府は多い。ユーザの投稿の確認とはコンテンツ・モデレーションに他ならない。

しかし、本当の問題はそこではなく、ターゲット広告のビジネスモデルそのものとアルゴリズムだと、NEW AMERICAのレポートは指摘している。そもそもターゲット広告は、センセーショナルなコンテンツ、人目を引く話題性のあるコンテンツを優先的に表示するように設計されており、選挙はもちろん、コロナパンデミックの際に生命を守るための情報の質を低下させる偏った意見や金目当ての投稿を増幅しやすい。さらに、ターゲティング広告では、有料会員が、人々の属性や申告した関心事に加えて、アルゴリズムによって推測される他の特徴に基づいて、広告を含むさまざまなタイプのコンテンツを特定の利用者に発信できるためフィルターバブルを作りやすい。

政府もプラットフォーム企業も本当の問題に適した対処を用意していない。川下の対策であるコンテンツ・モデレーションは必要だが、ターゲット広告とそのアルゴリズムをなんとかしない限り効果は薄い。