以下の文章は、電子フロンティア財団の「Facebook Treats Punk Rockers Like Crazy Conspiracy Theorists, Kicks Them Offline」という記事を翻訳したものである。

Electronic Frontier Foundation

Facebookは去年、悪魔崇拝で小児性愛の秘密結社がドナルド・トランプ前大統領への陰謀を企てていると主張する陰謀論「Qアノン」の信奉者を追放すると発表した。いい厄介払いといったところだろう。

オークランドを拠点とするパンクロックバンド「Adrenochrome(アドレノクロム)」のメンバーは、ある日突然、Facebookがバンドのページ、3つの個人アカウント、ボーカルのジーナ・マリーとドラマーのブライアンが運営するブッキングビジネスのページを凍結されることになる。まったくの不意打ちだった。

マリーは、FacebookがQアノンとコンテンツ・モデレーションをめぐって戦いを繰り広げていることが、彼女らに影響を及ぼすとは夢にも思っていなかっただろう。バンド名の「アドレノクロム」という奇妙な言葉(酸化したアドレナリンを意味する)は、1970年代にハンター・トンプソンが2冊の本で広めたものだ。マリーとバンドメンバーは数年前にこのバンド名つけたが、当時はQアノンの存在すら知らず、80年代に活躍した英国のバンド、シスターズ・オブ・マーシーの楽曲に敬意を表してこのバンド名を選んだという。だがこの数年、Qアノン信奉者たちは、アドレノクロムは中毒物質であるというハンター・トンプソンの(架空の)アイデアを取り入れて、この無名の化学物質を自らのイデオロギーの中心に据えだした。

Adrenochromeの4人のバンドメンバーはQアノン陰謀論とは何の関係もなく、オンラインで議論したこともなかった。バンド名を勘違いしたQアノン信奉者から時折(迷惑な)Facebookメッセージを受け取るくらいなものだった。

だが1月29日、Facebookは何の前触れもなくAdrenochromeのバンドページ、さらにはマリーらの3人のバンドメンバーの個人ページ、ブッキングビジネスのページを凍結した。

「Facebookには2300人の友達がいて、ツアーで知り合った人もたくさんいました」とマリーは言う。「その中には、他に連絡先がわからない人もたくさんいます。結婚式の写真や赤ちゃんの写真、そこでしか見れない写真もたくさんありました」。

偽陽性

Qアノン陰謀論は困惑してしまうくらいに拡散している。小さなウェブサイトのコメント欄だろうと、大手ソーシャルメディアサイトであろうと、ウェブサイトのホストは、Qアノン関連のコンテンツやそれを広めるユーザを制限する権利がある。では、無実のユーザが Qアノンを標的とした網に巻き込まれたとして、Facebookはそのことを非難されるべきなのだろうか?

もちろん、イエスだ。確かに大規模なコンテンツ・モデレーションを完璧に実施するのは不可能である。だからこそ我々は、企業にサンタクララ原則に従うことを求めてきた。サンタクララ原則とは、数字(数字を公開すること)、通知(有効な方法でユーザに通知すること)、異議申し立て(人間による審査を受けるための公正な手続き)を含む、簡潔なベストプラクティスのリストである。

Facebookは、ページが凍結された理由をマリーらバンドメンバーに明らかにはしなかった。彼らは、おそらくバンド名が関係しているのだろうと推測することしかできなかったのだ。また、異議申し立ての仕組みも一切提供されなかった。彼女が受け取ったのは、彼女のアカウントが凍結され、30日以内に永久に削除されるという通知(下記のスクリーンショット)だけだった。スクリーンショットには、「誤ってアカウントが無効になったと思われる場合は、ヘルプセンターから詳細情報を送信できます」と書かれていたが、この情報を提供するためにヘルプセンターにログインすることすらできなかった。

結局、マリーはEFFに連絡を取り、我々が直接訴えたことで、2月16日にアカウントが復旧した。だがその後数時間のうちに、Facebookは再びアカウントを凍結した。2月28日、我々が再びFacebookに彼女のアカウントを復旧するよう求めた後に、アカウントは復旧した。

Facebookにアカウントが凍結された理由について説明を求めたところ、「これらのユーザは有害な陰謀論の誤検出により影響を受けた」とだけ回答した。マリーが自分の友人や写真にアクセスできなくなった理由が説明されたのは、それが初めてだった。

これで終わりかと思いきや、3月5日、マリーのアカウントは3度目の凍結措置を受けた。以前とまったく同じメッセージが送られてきて、異議申し立てもできなかった。我々は再び介入し、彼女のアカウントを取り戻した。これが3度目の正直となることを願っている。

これはハッピーエンドではない。第一に、ユーザがアカウント凍結に異議申し立てするために、いちいち権利擁護団体に連絡しなければならないということはあってはならない。アカウントの凍結とアカウントの復旧の連携がうまく取れていなかったために、Facebookはこの不適切なアカウント凍結を止めることができなかったようだ。

第二に、Facebookは未だに有効な異議申し立て機能を提供していない。2019年の「Who Has Your Back?」レポートで、Facebookがはっきりと約束した有効な通知さえも提供していなかった。

Facebookはインターネット上で最大のソーシャルネットワークである。コンテンツモデレーションのスタンダードを設定するリソースを持ち合わせているはずだが、基本的なことすらできていない。まずはサンタクララ原則(数字、通知、異議申し立て)を遵守することから始めるべきだ。

企業:

Facebook

日付:

2021年1月

スクリーンショット:

Facebook Treats Punk Rockers Like Crazy Conspiracy Theorists, Kicks Them Offline | Electronic Frontier Foundation

Author: EFF / CC BY 3.0 US
Publication Date: March 2021
Translation: heatwave_p2p