科学的根拠のない表現規制議論はもう止めよう

Electronic Frontier Foundation

議会やメディアでは、インターネットプラットフォームのあるべき運用方法をめぐって、新たな規制の必要性について激しい議論が繰り広げられている。しかし、そうした議論はしばしば、実証研究よりも、レトリックや逸話に基づいて行われている。先日提案された〈オンライン・プラットフォームおよび国土安全保障に関する国家委員会法（National Commission on Online Platforms and Homeland Security Act）〉はそうした現状を変えることを意図しており、我々はその目的を強く支持したい。

実証的エビデンスに基づく政策決定を支える総合的研究

困難な社会問題に直面すると、私たちはついつい「わかりやすい」答えに目を向けてしまう。たとえば政治家やメディアは、科学研究で因果関係がないことが示されているにもかかわらず、しばしば現実世界の暴力問題に関連して暴力的なゲームを非難してきた。エビデンスがないにもかかわらず、暴力的なゲームが現実の暴力を引き起こしているという思い込みによって、州法によって暴力的なゲームを禁止しようという憲法違反の取り組み（販売の犯罪化も含む）から、暴力的なゲームを（ここでもエビデンスなしに）暴力行動の原因となるとのラベル表示を義務づけようとする米議会の取り組みに至るまで、適法な言論を検閲せんとするさまざまな提案がなされてきた。

良かれ悪しかれ、多くの政治家やコメンテーターは、さまざまな社会問題がプラットフォームによって引き起こされていると指摘する。だが、そうしたプラットフォームが情報の伝達や整理、アクセスにおいて極めて重要な役割を果たしていることを考えれば、かつてのゲーム論争の二の舞にしてはよいはずもない。現代社会が抱える深刻な問題はプラットフォームによって引き起こされていると結論づける人も多いが、そうした結論が実証的、客観的科学によって裏づけられているわけではない。上述した法案は、専門家へのヒアリングや研究への資金提供によってプラットフォームのアルゴリズムと自動的意思決定がどのような影響をもたらしているかを調査し、最終的に国民と政策担当者の双方に報告書を提出する国家委員会を創設することで、この問題を解決しようとしている。

コンテンツモデレーションにおける自動的意思決定は人権への配慮に乏しく、かなりの部分が秘匿されている

プラットフォームによる自動化ツールを用いた「過激主義コンテンツ」への対応を独自に調査したところ、人権活動家がまとめたコンテンツが削除されていたことが確認されている。たとえば、YouTubeの自動フィルターは、シリアの人権侵害を記録する数千のチャンネルを削除していた。我々はSyrian ArchiveとWitnessとの共同調査により、病院や医療施設を標的とした空爆を記録した381本のビデオを含む、少なくとも206,007本のビデオが2011年〜2019年の間に同プラットフォームから削除されたことを確認している。

批判者たちは、プラットフォームに対してさらに多くのコンテンツを迅速に（つまり自動化ツールへの依存を強化することで）削除するよう働きかけているが、適法な言論の自由、自由権、公民権に及ぼす影響は十分に考慮されてはいない。これまでに確認されているように、自動化への依存度が高まれば表現の自由に深刻な影響をもたらすことが懸念される。同委員会による調査が、この問題を分析することを期待したい。

最後に、同法案に、プラットフォームがどのようにコンテンツをモデレーションしているか、その意思決定が「利用規約／行動規範」の執行において「透明性、一貫性、公平性」が保たれているか、そしてユーザにどのような救済の機会を提供しているかを評価する基準として、サンタクララ原則が盛り込まれたことを歓迎したい。

法整備が進められているということもあってまだ課題は残されてはいるだろうが、現時点での同法案の基本的な目的は支持に値するものである。社会における暴力の問題は根拠のない仮定ではなく、真摯な探求と綿密な調査を要する重大問題である。この法案を前進させ、とりわけ自動化ツールの分野において、第三者による政府調査への監査を可能にするよう議会には求めたい。こうした自動化ツールの調査は、これまで企業秘密のベールや専有〈proprietary〉情報だとの主張によって覆い隠されてきたのである。

In the Debate Over Online Speech and Security, Let’s Get to the Science | Electronic Frontier Foundation