ウクライナ侵攻のさなかにも「戦争犯罪の決定的な証拠」を削除し続けるプラットフォーム

Electronic Frontier Foundation

マウリポリ、ガザ、カブール、クライストチャートで見られたような残虐行為が行われたとき、ユーザやソーシャルメディア企業は「残虐行為の証拠となるオンラインコンテンツをどう扱うか」という難問に直面する。残虐行為を含んだ暴力礼賛コンテンツと、ジャーナリストや人権活動家によるドキュメントを区別できるのか、あるいは区別する必要はあるのか？ 紛争に際して、プラットフォームは誰の暴力的なコンテンツを許容するかという判断に際して、どちらかの側に立たねばならないのか？

この10年、ソーシャルメディアプラットフォームは戦争犯罪の証拠の記録と保存において重要な役割を果たしてきた。戦争犯罪の証拠を共有する場としては理想的ではないが、紛争地域の人々にとって、そうしたコンテンツを最も容易かつ即座にアップロードできる場であることは事実である。

多くのプラットフォームは、過激派コンテンツや暴力描写に関するポリシーをますます厳しくしている。その結果、人権侵害の記録や対抗言論、ニュース、アート、抗議などがしばしばその網にかけられている。つまり、プラットフォームは一般市民にとって価値あるコンテンツや、戦争犯罪の裁判の証拠となりうるコンテンツを削除してきたのである。これは何年も前から指摘されてきた問題であり、ロシアによるウクライナ侵攻の最中にも生じている。

YouTubeは3月、わずか10日のうちにウクライナに関連した15,000以上の動画を削除したと誇らしげに宣伝した。YouTube、Facebook、Twitterなど多数のプラットフォームは、こうしたカテゴリでのコンテンツ削除の大部分を自動スキャンで行っているが、自動化がもたらす迅速さは、間違いも伴う。たとえば4月上旬、Facebookはウクライナ北部の町、ブチャでの市民殺害に関するコメントや記録に用いられたハッシュタグを一時的にブロックした。Facebookを運営するMetaは、暴力的なコンテンツを自動スキャンして削除しているためにこのような間違いが起こったと説明している。

我々は何年も前から、プラットフォームが「暴力的」または「過激派」コンテンツを過剰に削除していることを批判してきた。このような間違った削除は、最終的には弱い立場のユーザに集中的に行われることになる。たとえば、テロを抑止するという名目で、プラットフォームはしばしばクルド人やその支援者のコンテンツを狙い撃ちにしてきた。Facebookは、クルド人を弾圧するトルコ政府を批判するコンテンツを何度も削除してきたのである。

Facebookは米国務省がテロ組織に指定するクルディスタン労働党（PKK）に関連するとして、たびたび誤ってコンテンツを削除している。そのたびに、間違いを認めることもあれば、自己弁護したりもしている。こうした正当化が本物であるかどうかはさておき（Facebookは同じく米国が指定するテロ組織であるハマスの写真をトルコ与党がアップしても放置している）、事実上、プラットフォームは政府に同調して、政治的異端者に厳しく接しているのである。

プラットフォームが「暴力的な」コンテンツを削除すると、結果的に、紛争を記録するジャーナリストを検閲したり、そうしたコンテンツを戦争犯罪の証拠として収集する人権活動家の妨げるとなる。シリア内戦が始まった際、受容的なメディアチャネルにアクセスできなかった活動家たちは、すぐさまYouTubeなどのプラットフォームを駆使して、自らの経験を整理し、記録することにした。

YouTubeは化学兵器による攻撃、病院や医療施設への攻撃、民間インフラの破壊などの残虐行為を記録した数十万の動画を削除し、その復旧を拒否したため、活動家たちは事実上の検閲に直面することになった。問題は検閲だけにとどまらず、ソーシャルメディア上のコンテンツを証拠として使用することが増えている人権裁判にも支障をきたしている。ある戦争犯罪調査官はヒューマン・ライツ・ウォッチに「決定的な証拠が時々刻々とアクセスできなくなっている状況に直面している」と語っている。

オンライン・プラットフォームはウクライナ侵攻に際し、コンテンツ・モデレーション・ポリシーにいくつかの前向きなニュアンスを加えた。これは以前の紛争では見られなかったことである。たとえばFacebookは、ウクライナをはじめとする数カ国のユーザに対し、「ロシアの侵略者に死を」といったロシアへの暴力的な言動を、政治表現の一形態であるとして容認した。Twitterは、「国家間の武力紛争」に関与する政府系アカウントへの情報アクセスを制限し、拡散とレコメンドを停止した。これはロシアによる偽情報への懸念に配慮したものと思われるが、サウジアラビアなど、間違いなく同じことをしている米国の同盟国にも同じポリシーを適用するかは定かではない。もちろん、Facebookがネオナチを起源とするウクライナの民兵組織、アゾフ大隊のBANを解除したように、この「ニュアンス」の一部には異論もあるだろう。

つまるところ、オンラインプラットフォームは、コンテンツモデレーションの実践にはもっとニュアンスを重視し、ユーザに対してはもっと透明性を高めることが重要なのである。たとえば、アゾフ大隊のBAN解除は、Facebookがユーザに知らせたのではなく、the Interceptが内部資料を報じたことで発覚した。しばしばユーザは、なぜ反対意見を述べるコンテンツが削除されたのか、なぜ政府のプロパガンダが放置されているのかといった理由を知らされることもなく、不透明なモデレーションによって深刻な被害を被っている。プラットフォームは、ジャーナリストや人権活動家、ユーザたちと協力して、表現の自由と情報アクセスの権利を尊重した明確なコンテンツ・モデレーション・ポリシーを確立しなければならない。