ガザにおけるデジタル・アパルトヘイト：イスラエルの要請に応じた不当なコンテンツモデレーション

Electronic Frontier Foundation

本稿はシリーズの第一部である。人権侵害に利用されるビッグテックの役割に関する第二部はこちら。

政府がコンテンツモデレーションに介入すれば、いかなる状況であろうと深刻な人権問題を引き起こす。10月7日以降、ソーシャルメディアプラットフォームは、（時にイスラエル政府の要請に応じて）親パレスチナ・コンテンツの不当な削除と、パレスチナ人へのヘイトスピーチの放置に関して批判を浴びてきた。具体的には、ソーシャルメディアプラットフォームはイスラエルのサイバーユニット――プラットフォームへの削除要請のために設立された政府機関――と協力し、暴力とテロリズムの扇動とみなされるコンテンツ、およびテロリストとして広く指定されているグループの宣伝を削除している。

こうした関係は現在の紛争以前から続いていたが、紛争が始まって以降急増している。10月7日から11月14日の間、イスラエル当局からソーシャルメディアプラットフォームに合計9,500件の削除要請が送られ、そのうち60%がMetaに対するものであった。報道によるとそのうち94%が削除された。

これは今に始まったことではない。同国サイバーユニットは長年、ソーシャルメディアプラットフォームへの削除要請が最大90%の高い遵守率を維持してきたことを喧伝してきたし、パレスチナの権利活動家、報道機関、市民社会を不当に標的にしてきた。その1つの事例がきっかけとなり、Meta監督委員会は「コンテンツ削除に関する全ての政府要請の受理と対応について、透明性のある正式なプロセスを定め、透明性レポートに確実に盛り込む」よう勧告した。

プラットフォームが政府機関の要請に応じてコンテンツを編集すると、そのプラットフォームは本質的に当該政府の立場を支持するバイアスがかけられる可能性がある。このような協力関係のもとで、政府機関はコンテンツモデレーションシステムに過剰な影響力を及ぼすことができるようになり、自らの政治的目標を達成するための手段として用いるようになる。つまり、公共の対話を統制し、反対意見を抑圧し、反体制派を沈黙させ、社会運動を鈍らせる。いったんそのようなシステムが確立されると、政府はそのシステムを利用して、プラットフォームが通常では行わないような発言の規制を強制したり、圧力をかけることが容易になる。

ガザにおける表現の自由は、政府の削除要請に加え、プラットフォームが不当に親パレスチナ的なコンテンツとアカウントを削除することによっても制限されている。その結果、ニュースの配信が妨害され、パレスチナ人への懸念を表明する声が沈黙させられている。また、Xはパレスチナ人へのヘイトスピーチの削除に失敗していると批判され、特定の誤情報を報告する機能を無効化してもいる。TikTokはコンテンツの監視について十分に対応できていない。Metaはある種の「攻撃的な文脈」においてパレスチナ国旗を含む特定のコメントを抑制していることを認めている。

ガザにおける表現の自由へのこれら重大な危害と戦うため、EFFはプラットフォームに「コンテンツモデレーションにおける透明性・説明責任のためのサンタクララ原則（Santa Clara Principles on Transparency and Accountability in Content Moderation）」に従い、以下の行動を取るよう要請する：

1. 地域のステークホルダーを政策立案プロセスに取り込み、コンテンツモデレーションシステム全体を通じてより大きな文化的能力――現地の言語、文化、状況の知識と理解――を提供する。
2. 国家の関与がコンテンツモデレーションプロセスにもたらす、ユーザの権利に対する特有のリスクを緊急に認識する。
3. 国家主体が反体制派、政治的批判者、社会運動、または個人を検閲するために企業のコンテンツモデレーションシステムを悪用または操作できないようにする。
4. ユーザのコンテンツがアクションを受けた際、いつ、どのように、なぜそうされたのかを通知し、異議申し立ての機会を与える。

これは「我々」の問題である

10月7日以前および以降のパレスチナ人への継続的な人権侵害の明確な証拠を考えれば、米国のテック企業には、自社、従業員、米国民、そしてパレスチナ人自身に対し、これら人権侵害に直接寄与していないことを確認する重要な倫理的義務がある。パレスチナ人は、イスラエル人と同様に、地域の発言をモデレーションするにあたって、とりわけ自分たち自身の発言について、意見する場を与えられなければならない。それを認めないのであれば、デジタル・アパルトヘイトへの加担にほかならない。

継続的な問題

EFFがパレスチナにおける検閲について懸念を表明したのは今回が初めてではなく、複数の国際フォーラムの場でも取り上げてきた。最近では、国連表現の自由特別報告者に対し、政府と企業による表現の制限が不均衡な影響を及ぼしていることについて懸念を表明した。5月には、監督委員会にコメントを提出し、「川から海まで」というスローガンのモデレーション決定は、全面的な禁止ではなく、ケースバイケースで判断すべきだと主張した。国際的および同地域のアライとともに、EFFはMetaにパレスチナに関するコンテンツを制限するコンテンツモデレーションの慣行とポリシーの全面的な見直しを求め、同社が実施すべき一連の勧告を発表した。

さらに、2023年4月には、EFFとECNLが監督委員会に対し、特に自動化されたコンテンツモデレーションツールの使用を通じて、Metaによる「shaheed（シャヒード：殉教者・証人）」という言葉やその他のアラビア語コンテンツの過剰なモデレーションに関するコメントを提出した。回答において、監督委員会は、Metaのアプローチが表現の自由を不均衡に制限し、不必要であり、「shaheed」を使用するすべてのコンテンツを削除する全面的な禁止を見直すべきだと結論づけた。

Digital Apartheid in Gaza: Unjust Content Moderation at the Request of Israel’s Cyber Unit | Electronic Frontier Foundation