プラットフォームのモデレーションに不満があるのに、どうしてそのプラットフォームから抜け出せないのか

Electronic Frontier Foundation

なんと哀れなコンテンツモデレータよ。ビッグテック・プラットフォームは、100カ国以上、1000言語以上のユーザに、自社のルールを正しく適用するようモデレータに求めている。ユーザたちは文字通り数百万ものオンライン・コミュニティに集い、そのコミュニティはそれぞれに独自の規範や禁忌を有している。

なんと大変な仕事であろうか！ ある言葉は、あるグループでは中傷とみなされ、別のグループでは親しみの表現となる。つまり、モデレータはあるグループのどの参加者が内部の人間で、誰が外部の人間であるかを理解しなければならない。

モデレータは、完璧には話せない言語、あるいはまったく話せない言語であっても、品質が不確かな機械翻訳の助けを借りつつ、これを判断しなければならない。

信頼と安全の専門家（訳注：のはずのモデレータ）がどのコンテンツを削除し、警告し、放置するのかに一貫性がないのは、さして不思議ではない。大規模なモデレーションなどというものは、どだい無理があるのだ。モデレータは大量の誹謗中傷や悪質な詐欺を見逃しているだけでなく、黒人ユーザの人種差別の議論をレイシストとみなして削除したり、危険な陰謀論の種を通報したユーザを陰謀論を推奨したとして凍結したり、ワクチンの誤情報を否定した科学者を誤情報を流布したと罰したり、ゲームデザイナーの広告に「サプリメント（supplement）」という単語が入っているからとブロックしたり、可愛い猫を「美しい猫ちゃん（beautiful puss）」と称賛したコメントを削除したりしているのである。

誰もがビッグテック・プラットフォームのコンテンツ・モデレーションに嫌気が差している。そして誰もがビッグテックに検閲されていると感じている。まさにそのとおり！

どのコミュニティにも、どんな言論が許容されるかの暗黙のルールや明示的なルールがある。そのルールを逸脱した者は、追放されたり、辱めを受けたり、黙らされたりと、さまざまな罰がくだされる。葬式で罵り合うことはご法度だし、大学教授を中傷してはいけないし、同僚に自分の性生活をあけすけに話すことも許されるものではない。あるいはあなたのご家族は、クリスマスディナーで下品な言葉を使うことや、朝食のテーブルで宿題の話をするのを禁止しているかもしれない。

コミュニティを定義するものの1つに、こうした言論規範がある。ネットの世界では、モデレータがルール違反の言論を警告・削除したり、それを投稿したユーザに注意・凍結するなどして「ハウスルール」を執行している。

たとえモデレータがそのコミュニティに親しんでいて、そのルールを理解していたとしても、この仕事をうまくこなすのは難しい。モデレータが低賃金の労働者で、会社が求める猛烈なペースでこなさなければならないなら、もっと難しくなるだろう。そうなると、一貫性を求めるのはもはや不可能である。

さまざまな背景や考え方を持つ多くの人たちが、ビッグテック・プラットフォームのモデレーションに不満を持つのは当然のことだ。

では、なぜ彼らはビッグテック・プラットフォームを使い続けているのだろうか。

ビッグテック・プラットフォームは「ネットワーク効果」を享受している。オンライン・コミュニティに参加する人が増えれば触れるほど、他の人も登録する理由が増えるということだ。あなたが参加する理由はそこに参加している人たちと一緒に過ごしたいからであり、そして他の人が参加する理由は、そこにいるあなたと一緒に過ごしたいからなのである。

ネットワーク効果は「スイッチングコスト」、つまりプラットフォームを離脱する際に支払う代償をも生み出す。自分のビデオを再生してくれる人たちや、自分と同じ健康問題を抱える人たちのプライベート・フォーラム、あるいは地球の裏側にいる親戚との連絡を失うことになるかもしれない。

そうした人たちとの縁を切りたくないからこそ、我々は大手のソーシャルメディア・プラットフォームの数多の欠陥をしぶしぶ我慢しているのである。決して、誹謗中傷者たちの言う「輝かしき表現の自由」に価値を見出しているわけでも、自分の意見を「ファクトチェック」されたいわけでも、無責任な第三者に非収益化されたいわけでも、著作権フィルターで好きなビデオを削除してほしいわけでも、幼稚なセンセーショナリズムに浸かりたいわけでも、アルゴリズムによって論争を呼ぶ意見を深く深く埋没させたいわけでもない。

愛する人たち、関心を寄せるコミュニティ、信頼を寄せる顧客を人質に取られているからこそ、プラットフォームのすべてを容認せざるをえないのだ。プラットフォームとの決別は、その人たちとの決別を意味するのである。

だが、そうでなければならない道理はない。インターネットは、プラットフォームではなくプロコトルに基づいて設計されている。つまり、多数の異なるサービスが相互接続され、それぞれが独自の規範と目標に基づく「ハウスルール」によって運営されるという原理だ。サービス同士は互いに接続することもできるし、互いにブロックすることもできる。ブロックすることで、コミュティは自分たちの仲間を傷つけたり混乱させようとする敵対者から隔離することができる。

実際、そのようなインターネットを目指して精力的に活動する人たちはたくさんいる。フリー/オープンソフトウェアのプロジェクトの集合体である「fediverse」は、Facebookなどの中央集権的なサーバをほぼ同等の機能を持つ分散型のオルタナティブで置き換えるために設計されている。友人、生協、スタートアップ、非営利団体などのグループが、自分たちのMastodonやDiasporaインスタンスをホストし、自分たちの好みやニーズに応じて他のサーバと接続することができる。

fediverseはたいへんに素晴らしい、が、期待されていたほどには成長していない。無数の人々がFacebookのモデレーションポリシーやプライバシー侵害を嫌っていると口にはしても、出口には向かおうとしない。もしかしたら、実は密かにFacebookでの生活を楽しんでいるのでは？

それも1つの仮説ではある。

だがもう1つの仮説は、まったく想像力を必要としない。つまり、人びとはFacebookを嫌っているが、それ以上にFacebookをやめたら繋がれなくなる人たちを愛している、という仮説である。

では、友人から切り離されることなく、Facebookを離脱できるようになったらどうだろう？

そこで「相互運用性」の出番だ。

相互運用性とは、既存の製品やサービスに新しい何かをつなぐことである。GmailアカウントからOutlookアカウントにメールを送信できるのは、この相互運用性のおかげだ。どのブラウザを使っていてもあらゆるウェブサイトを開けるのも相互運用性のおかげだ。Microsoft WordのファイルをApple Pagesで開けるのも、Verizon契約のiPhoneがT-Mobile契約のAndroidユーザに電話をかけられるのもそう。

サービスや製品を乗り換えることができるのは、相互運用性のおかげなのだ。たとえば、PCを放り投げてMacを買ったとしたら？ なんの問題もない。Microsoftユーザだった時代に作ったWord文書は、すべてPagesでも開ける。AndroidからiPhoneに、T-MobileからVerizonに乗り換えたとしたら？ それでも友人にはそのまま電話できるし、友人も電話をかけてくる。あなたが明かさない限り、友人たちはあなたが乗り換えたことに気づくこともない。

米国（のACCESS法）とEU（のデジタル市場法）の提案は、最大手のプラットフォームに、自社サービスとの相互運用性を認めるよう義務づけようとしている。細かな点では異なるものの、いずれの法律もおおよそFacebook（現在は「Meta」を名乗っている）などのプラットフォームに対し、スタートアップ、生協、非営利団体、個人サイトが接続できるようにし、Facebookユーザが友人に別れを告げることなくサービスを離脱できるようにすることを求めている。

これが実現すれば、Facebookを離脱して小規模サービスを立ち上げたり、参加したりできるようになる。サービスはそれぞれにモデレーションポリシーを設定できるが、Facebookとも相互運用できる。Facebookのユーザにグループにメッセージを送信でき、同時に小規模サービスのユーザやグループとも共有される。

これはモデレーションの選択をFacebookから遠ざけ、ユーザ側に引き寄せるものである。Facebookでブロックされている発言であっても、あなたのサービスのモデレータが許可していれば、そのサービスを利用する人たちには閲覧してもらえる。もちろん、その発言はFacebookのモデレータにはブロックされて、Facebook側のユーザには閲覧できない。

同様に、Facebookが許可する言論の中に、あなたやあなたのコミュニティが見たくないものがある場合には、あなたのサービスのモデレータはそうしたメッセージを削除したり、特定のユーザからのサーバ接続を拒否することもできる。

ビッグテック・プラットフォームを修正したい、もっと透明性のあるモデレーションをさせたいという人たちもいる。もちろん、それもわかる。だからこそ我々は、モデレーションを改善するためのロードマップ、すなわちサンタクララ原則の起草にも携わった。

だが、ビッグテック・プラットフォームの修正は絵に描いた餅に過ぎない。実際、プラットフォームはひどい失敗を繰り返している。あなたが参加しなければならない対話を、改善の意志のないプラットフォームで行わなければならず、放置気味のモデレーション（undermoderation）や過剰なモデレーション（overmoderation）の被害を受けているのだとしたら、もはや袋小路なのである。

もっといい方法がある。相互運用性によってコミュニティは自分たちで規範を管理できるし、テック企業の巨大な「信頼と安全」部門（おそらく誰もあなたの言語を話せず、あなたの文脈を理解しない他国の企業）に何を許し何を削除するかの判断について、彼らが見落とした文脈的ニュアンスについて丹念に説明する必要はなくなるのである。

フランク・パスカルの「テックプラットフォームと知識問題（Tech Platforms and the Knowledge Problem）」は、テック規制の2つの異なるアプローチ――「ハミルトニアン」と「ジェファソニアン」を提示している（2018年の論文で、実に時代精神に溢れたラベリングだ！）。

ハミルトニアンは「大手企業を解体するのではなく、規制を改善する」ことを好み、ジェファソニアンは「メガファームへの（権力・特許・利益の）集中」自体が問題で、それが無責任さや危険性をもたらすと考える。

まさに我々の主張である。我々は、テクノロジーユーザがビッグテック・プラットフォームの所有者の道徳的な目覚めを待つべきだ、とは考えない。また外側からの規制は、唸るほどの資金力と、大きすぎて潰せないテック大手の寡占力によって果てしなく険しい道のりとなるのは目に見えている。

我々はいつまでも我慢できない。ビッグテック・プラットフォームの不適切なモデレーションに、あまりにも多くの人々が被害を受けているのである。なんとしても、プラットフォームをより良いものにしていかなければならない。だが同時に、人々に技術的な自己決定権を与え、ビッグテック・プラットフォームの重要性を低減していこうではないか。我々はみな、何が許されて何が許されないのかを自ら判断できるオンライン・コミュニティに所属する資格があるのだから。

To Make Social Media Work Better, Make It Fail Better | Electronic Frontier Foundation