偽情報（デマ）を見分けるのはあなたが思うほど簡単ではない

Electronic Frontier Foundation

FacebookのワシントンDC本社前に、「偽情報に殺された」と書かれた死体袋が並んでいる。「The Real Facebook Oversight Board」（紛らわしいが、この組織はFacebookや同社の監督委員会とは無関係）に所属する抗議者たちは、誤情報の「スーパースプレッダー」、つまりCOVID-19ワクチンの誤情報の大部分に責任があるとみられる特定のアカウントを凍結するようFacebookの株主に求めている。新型コロナワクチンに関する偽情報は、米国各地、世界各国で接種を遅滞させる一因となっていることは確かだ。こうした偽情報は、さまざまなルートで広がっている。地域コミュニティや家族のWhatsAppグループ、FOXニュースのキャスター、そしてFacebookである。Facebookは現在、新型コロナウィルスの誤情報や偽情報を一部禁止しているが、そのルールをもっと平等に適用するよう訴えるのは当然のことである。

偽情報の「スーパースプレッダー」を特定するのは、彼らが発信する情報の量を考えれば容易い。だが、偽情報にシステムレベルで対処するのは容易なことではなく、政策提案の中には懸念せざるを得ないものも少なくない。その理由を以下に記そう。

1. 偽情報の見分け方は必ずしも簡単ではない

米国医学界は、ほんの数十年前まで同性愛を精神疾患とみなしていた。同性愛は精神疾患ではないと医学界に理解させるためには、大規模な社会運動と社会的な議論が必要だった。もし当時Facebookが存在し、そしてFacebookが真実の審判者として振る舞っていたならば、そのような議論が高まることはなかっただろう。

もっと最近の例を挙げよう。現代の医学界では、ME/CFS（筋痛性脳脊髄炎／慢性疲労症候群）の原因についてさまざまな議論が交わされている。ME/CFSは決定的な原因が特定されていない慢性疾患で、ほんの数年前まで多くの人が現実の病気ではないと考えていた。米国疾病管理センターはこれを病気と認めているが、現在でもこの病気を深刻に捉えていない医療従事者もいる。ME/CFS患者の多くは、FacebookやTwitterなどのプラットフォームで、自分の病気について議論したり、コミュニティを見つけている。もしプラットフォームが、病気の深刻さを否定する医療従事者の意見を鵜呑みにして、こうした議論を取り締まることになれば、ME/CFSに苦しむ人々はさらなる苦しみを味わうことになるだろう。

2. 権威に偽情報の判断を委ねることには大きな問題がある

最初の事例で示したように、何が真実であるかについては権威と社会の間で合意が得られるとは限らず、権威が本質的に正しいとも限らない。

1月、ドイツのハンデルスブラット紙は、オックスフォード・アストラゼネカのワクチンが高齢者には効果がないという記事を掲載した。匿名の政府関係者の発言を引用し、ドイツ政府のワクチン接種計画は危険だと主張した。

アストラゼネカはこの主張を否定した。実際、ワクチンが高齢者に効果がないという証拠が示されることもなかった。だが、ハンデルスブラット紙の報道がきっかけとなり、アストラゼネカはドイツで大きく評判を落とした。

最後に、COVID-19の情報を提供するCDCでさえ、いくつも間違いを犯してきたことを指摘しておこう。最近でも、5月に室内でのマスク着用の推奨を解除し、その後にCOVID-19感染者が急増した。この方針転換についてソーシャルメディアでは疫学者や社会学者らが激しく議論した。こうした議論は自分の健康にとって何がベストなのかを理解しようとする人々の重要な判断材料となっているが、もしFacebookの誤情報対策の指針がCDCに依存していたら、こうした議論は封じ込められていたかもしれない。

3. 偽情報に関するルールを適用するのは容易なことではない

利用規約やコミュニティスタンダードを執行するのは、たとえ多くのリソースを有していても、注意深く行ったとしても、難しいものである。名声や資金力、善良さを備えたドイツの新聞社でさえ間違いを犯す。たくさんの記者を抱える新聞社であっても常に正しい判断を下せないのに、1時間あたりに管理するコンテンツのノルマが課せられた低賃金のコンテンツモデレータに何を期待できるのだろうか。さらに、自動化テクノロジーがすでに数多のモデレーションの間違いを犯しているというのに、どうして偽情報を正しくモデレーションできるというのだろうか。

実際のところ、モデレーションはどんなレベルでも難しく、規模が大きければ不可能である。確かに、偽情報の「スーパースプレッダー」のような常習犯への対応であれば、企業にやれることはまだある。だが、大半のコンテンツは数百の言語や地域に広がり、モデレーションは極めて困難だ。あらゆる表現と同様に、多数の善良なコンテンツが誤って網にかけられてしまうことになるだろう。