Facebook内部告発：企業の邪悪さが巨大さと不可分であるならば

Electronic Frontier Foundation

Facebookの内部告発者、フランシス・ハウゲンは、リーク情報や議会での証言を通じて、Facebookの運営について多くのことを明らかにした。我々が長らく抱いてきた様々な疑いの証拠が示されたことになる。Facebookは、ユーザ数や滞在時間などの成長を重視し、それ以外のことはすべて無視している。最も弱い立場にあるユーザの健康や安全よりも、成長を優先するのである。

ハウゲンは証言の中で、Facebookではメトリクス（測定基準）こそが絶対だと説明する。Facebookの「成長部門」は「ユーザのエンゲージメント」を高めることがすべてで、実際成功している。これは循環的なプロセスとなっていて、Facebookはユーザが「エンゲージ」するコンテンツを特定し、それを広めることで、さらなるエンゲージメントを獲得する。Facebookの自動システムは、何がエンゲージされているかを評価しているわけではなく、エンゲージメントそのものによって対象を特定し、ランク付けしているだけである。ハウゲンによると、自動スコアリングシステムは、いじめでさえ「エンゲージメント」と捉え、注目を集めているコンテンツと一緒にランク付けするという。過激な発言を繰り返す政治家は、より多くのエンゲージメントを得られるため、Facebook内のランクも高くなり、より多くのFacebookユーザに見てもらえるようになる。

Facebookは「良い」コンテンツと「悪い」コンテンツを区別したくても、それができないようだ。ハウゲンによると、Facebookがコンテンツ評価に用いている「AI」は英語の投稿が苦手で、他の言語はさらに苦手としている。Facebookは「安全よりもスケールを重視」し、「安全よりも利益を選択」しているのである。

これは単なる優先順位の問題に留まらず、エンジニア、デザイナー、プロダクトマネージャーへのインセンティブにも反映されている。彼らのボーナスは、プロダクトが生み出す「意味のある社会的相互作用」（通称「エンゲージメント」）の量に連動しているのだから。

さらに、Facebookは高年齢層の既存ユーザベースからの搾取だけでは飽き足らないようだ。Facebookの「子ども向けInstagram」計画は、幼少期から自社製品に慣れ親しんでもらうことでユーザを獲得し、こうしたエンゲージメントの最大化を、遊び場を含めた社会的交流の本質的な要素として常態化するための試みである。ハウゲンは、Facebookの同計画の「一時停止」が恒久的なものだとは考えておらず、ほとぼりが冷めるのを待っているだけだという。

だが、ほとぼりが冷めることはないだろう。同社は常に、社会を仰天させるスキャンダルの渦中にある。Facebookの終わりなき危機は、腐った企業文化とひどい優先順位がもたらしたものだと我々は考えてきたが、ハウゲンの証言はまさにそれを裏づけている。

ハウゲンは議会で、Facebookに必要なのは解体ではなく改革だと述べた。だが、Facebookの壊れたシステムは、コストをかけることなく成長するモデルに支えられている。Facebookのユーザ数と、そのユーザから収集するデータの深さが、Facebook最大のセールスポイントである。言い換えれば、Facebookの邪悪さは、その巨大さと密接に結びついている。

EFFの立場としては、ある企業の邪悪さがその巨大さと不可分である場合、その企業の解体を検討すべきだと考える。

今回のFacebook論争の大部分は、Instagram広告に関連している。特に、Instagramの広告が若者にどのような広告を表示し、若者のメンタルヘルスにどのような影響を与えているのかが問題となっている。

だが忘れてはいけないのは、FacebookがInstagramを作ったわけではない、ということだ。FacebookがInstagramを構築したのではなく、競合他社を無力化するためにFacebookはInstagramを買収したのである。これは、そもそもこの買収を許可すべきだったのか、そして今日この買収を取り消すべきなのかという問題を提起している。

FacebookがInstagramを買収したのは、同社が「脅威」だったためだ。InstagramはFacebookを離れていった若いユーザをひきつけて成長していた。Facebookの調査によると、若いユーザはFacebookを中年のツールとみなしていた。Facebookの魅力の低下はInstagramへの嫉妬を生み、買収後には両者の軋轢が生じることになる。FacebookはInstagramの企業姿勢に疑念を抱き、最終的にはInstagram創業者たちを会社から追い出し、Instagramに関するすべてのことをFacebookが決定するようになった。Facebookのエンゲージメントへの執着、偏狭さ、全てのサービスをFacebookコアアプリの参加に束ねること――これらはすべて、コストを掛けずに成長しようという精神に根ざしている。

一般に、企業は利益の最大化を目的としている。だが、適切なチェック機能がなければその衝動は暴走し、非倫理的、濫用的、最終的には違法行為につながることもある。記録的な罰金、同意判決、市場原理があってなお、Facebookが違反を繰り返してきたことを考えれば、そうしたタガはうまく機能していないことを示している。

企業が直面しうる重大な結末として解体を設定すれば、企業を統制し、より良く自律させ、より創造的な規制的解決策の余地を広げられる。それでもうまく行かなければ、企業を本当に解体して競争を活発にすることで、企業の行動を律するしかない。

解体は、テクノロジー産業の問題を解決するための第一の防衛線ではないし、今後もそうなることはないだろう。解体は複雑でコストも掛かる。歴史的に見ても、解体後に強制力が働かなければ、分割企業が再統合してしまうこともある。1984年のAT&T解体は司法省の20年に及ぶ執念の成果であり、市場の急激な多様化をもたらした。しかし、その後の20年間で、合併審査の甘さや規制緩和により、通信市場は再び一握りの巨大企業に収斂してしまった。

我々は、Facebookが今日我々に何をしでかしているのかを毎朝チェックしなくても済むように、さまざまな戦略を追求できるし、そうしなくてはならない。

解体は強力なツールである。だが、解体を有効に機能させるためには、他のツールも必要になる。解体を維持し、革新的な競争相手の健全な供給を確保するためのツールボックスが必要なのである。つまり、買収審査を強化し、相互運用性の障害を取り除き、消費者を保護し、競争の場を公平にするための適切なプライバシー法を制定しなくてはならないということである。

What the Facebook Whistleblower Tells Us About Big Tech | Electronic Frontier Foundation