「最重要指名手配CEO」トランプを作ったユーザ、大手SNS／決済プラットフォームから相次いで締め出される

Electronic Frontier Foundation

12月14日、オンラインストアComradeWorkwearを運営するジェームズ・ハーはある計画を発表した。その計画とは、2003年に米国国防情報局が作成した悪名高い「イラクのお尋ね者トランプカード」になぞらえた「最重要指名手配CEO［Most Wanted CEO］」トランプを販売するというものだった。ComradeWorkwearのウェブサイトによれば、このカードは「人類と地球を犠牲にして利益を追求する資本主義マシンへの批判」を込めたものだという。不動産王から武器製造業者まで、「我々の世界を支配するオリガルヒ、CEO、悪徳業者たちの素顔を暴く」ことを目的としていた。

しかし、InstagramとTikTok、合わせて10万人のフォロワーに向けてこの計画を投稿してから1日と経たずして、New York Postはこれを「不穏なカード」だとして大々的に取り上げた。その5時間後にはニューヨーク市警がハーの自宅を訪れ、職務質問を行った。違法行為だとも監視下に置かれることになるとも説明はなかったが、翌日、ニューヨーク市警のコミッショナーは、UnitedHealth Groupのブライアン・トンプソンCEO射殺容疑者ルイージ・マンジョーネの起訴を発表する記者会見で、このNew York Postの記事を挙げた。その直後、TikTokからShopifyに至る各プラットフォームは、大企業とそのCEOたちがもたらす弊害を指摘しようとしたという理由だけで、ComradeWorkwearの企業アカウントとハーの個人アカウントの両方を凍結した。

ハーは孤立無援だったわけではない。この暗殺事件の後、医療業界でのネガティブな体験を語り、事件の背景を推測し、被害者あるいは実行犯への共感を示そうとした人々は数千人に上った――ただし、それはソーシャルメディアプラットフォームが許可した範囲内に限定された。多くのユーザが、容疑者のマンジョーネについてコメントを投稿したことで、投稿を削除されたり、アカウントを凍結されたと報告している。TikTokは「Free Luigi」というコメントさえ削除したという。マンジョーネの星座だとか、音楽に合わせた動画モンタージュのような、おおよそ無害なコンテンツですら、Threadsから削除されたという。

最重要指名手配CEOトランプは、マンジョーネには一切言及していない。しかもまだ発売前のこのカードには、CEOの個人情報も含まれてはいない。ハーは最初の投稿で、各カードには企業の詳細情報と、企業の危険性に関する彼の見解を掲載したページへのQRコードを収録すると説明していた。業界ごとにスートが分けられ、カード裏面には射撃場でよく見かけるシルエットが描かれる予定だった。現在は削除されている動画の中でハーはこう語っていた。「カードには、その人物、所属組織、そしてなぜ彼らが邪悪なのかを説明する専用ページへのQRコードを収録する。『なぜウォルマートのCEOは邪悪なのか？なぜノースロップ・グラマンのCEOは邪悪なのか？』といったことがわかるようになる」

敵を学ぶためにトランプを使うという軍隊の伝統は、これまで何度も何度ももじられてきた。Instagramでは現在も、「IRGC、ヒズボラ、ハマス、フーシ、そしてイラン支援の民兵組織の指導者たち」を描いた「ガザの最重要指名手配」トランプは閲覧できる。ビル・ゲイツやアンソニー・ファウチなどの人物とともに「すべての犯罪と証拠が列挙されている」ウェブサイトへのQRコードが印刷された「コロナの最重要指名手配」トランプを販売するShopifyストアは、本稿執筆時点でも購入可能だ。スポーツ選手のトランプを販売するHero Decksですら、2003年に「ウォール街のお尋ね者［Wall Street Most Wanted］」デッキを制作している。第2版が出るほどの人気を博したという。

これまで何度も指摘してきたように、人間によるものか自動化されたものかを問わず、大規模なコンテンツモデレーションを完璧にこなすことは完全に不可能であり、それなりにこなすことすらほぼ不可能だ。企業はしばしば間違いを犯し、コンテンツの影響を受ける当事者でさえプラットフォームの規約やガイドライン違反だとは考えないようなコンテンツや、それを投稿したアカウントそのものを凍結してしまう。逆に、規約／ガイドライン違反が濃厚な発言が放置され続けてもいる。こうした問題は、物議を醸す話題や、激しい全国的な議論の最中にあってとりわけ顕著に表れる。こうした誤りは重要な声、視点、文脈を排除することが多く、一般のユーザだけでなくジャーナリスト、人権擁護者、アーティスト、性労働者権利擁護団体、LGBTQ+活動家、パレスチナ支持活動家、政治団体にも定期的に影響を及ぼしている。場合によっては、人々の生活にも支障をきたすことがある。

InstagramはComradeWorkwearのアカウントを「コミュニティスタンダード違反」として、詳細な説明もなく凍結した。ハーの個人アカウントも同様に凍結された。Metaは危険な組織や人物の「賛美」を禁止するポリシーを持っており、これを「指定された団体による暴力的または憎悪的な行為に対して、道徳的、政治的、論理的、その他の正当性を主張することで、それらの行為を容認可能または合理的なものとして正当化または擁護すること」と定義している。Metaの監督委員会は、このポリシーの適用に関するMeta社のモデレーション決定を何度も覆してきた。ハーはトンプソンの暗殺後、Instagramに「CEOは死ななければならない」と投稿したが、「CEOが死ななければならないという言葉の意味は、資本主義の構造を破壊しなければならないということだ」という説明も添えていた。対照的に、ミュージシャンのエセル・ケインが#KillMoreCEOsというハッシュタグをそえてInstagramに投稿しているが、そのアカウントは現在も健在なままだ。モデレーションが一部の人々にだけ影響を与え、他の人々には影響を与えない典型例といえる。

TikTokもまた、説明もなくハーがプラットフォームのコミュニティガイドラインに違反したと通告した。同プラットフォームは、暴力的過激主義者または連続的もしくは大量の暴力を引き起こす人々への「（マニフェストの賞賛、祝賀、共有を含む）宣伝または物質的支援の提供」を禁止するポリシーを定めている。TikTokはハーに異議申し立ての機会を与えず、生活の様子を報告するためだけに作成した追加アカウントの削除も続けた。ガイドラインに違反した具体的なコンテンツも示されなかった。

12月20日、PayPalは理由を説明することなく、ComradeWorkwearへの決済処理を継続できないとハーに通知した。Shopifyも「攻撃的なコンテンツ」を販売しているとしてハーのストアを警告し、ShopifyとApple Payの両アカウントを無効化した。フォローアップメールでは「決済ゲートウェイを提供する銀行パートナーによって決定が下された」と説明された。

ハーの事例は特異なものではない。金融／ソーシャルメディアプラットフォームは私たちのオンライン表現に対して強大なコントロール権を持っており、私たちは長年にわたり、過剰なモデレーション、不均衡な執行、透明性の欠如、有効な異議申し立て機会の欠如を批判してきた。それゆえ、EFFはさまざまな組織、活動家、学術専門家とともに、コンテンツモデレーションにおける透明性と説明責任に関するサンタクララ原則を共同作成した。これらのプラットフォームはコンテンツモデレーションの基準を設定するリソースを持っているにもかかわらず、明らかにモデレーションを公正に適用しておらず、ほとんどの場合、明確な通知や異議申し立ての機会の提供といった基本的なことさえ怠っている。

ハーは、企業権力の増大に対してオンラインで不満を表明した多くの人々の一人に過ぎない。企業の影響力に光を当てようとしただけの声が、服従を強いられるかのように封じ込められていく様は、皮肉なことにハーがカードで指摘しようとした問題そのものだ。最重要指名手配CEOデッキが実際に発売される日が来たとき、これらのプラットフォームのCEOたち自身がラインナップに加わっていも何ら不思議はない。

Platforms Systematically Removed a User Because He Made “Most Wanted CEO” Playing Cards | Electronic Frontier Foundation