以下の文章は、コリイ・ドクトロウの「The White House has a plan for Big Tech」という記事を翻訳したものである。
今週、ホワイトハウスはテックセクターの独占に対処するための待望の計画を発表した。ビッグテックの修正は極めて重要だ。自由で公正、オープンなインターネットは、人権、平等、労働、気候、そして人種やジェンダーの正義を求める戦いを続ける上での前提条件なのだから。
ホワイトハウスのプランは玉石混交と言わざるをえない。6つの行動目標が掲げられているが、そのどれも「悪魔は細部に宿る」と要約できるほどに曖昧なものだ。つまり、その原則らがどう扱われるかによって、素晴らしい対策にもなれば、ひどい対策にもなりうる。
だが1つだけ、とりわけ問題が大きく、議論を呼び、危険な提案も含まれている。「230条の抜本的改革」という曖昧な原則では、230条を「大規模テクノロジープラットフォームの特別な法的保護」と評価している。これはまったくの間違いだ。
本稿では、6つの原則それぞれに目を通し、それらがうまくいきそうか、そうではないかを説明し、最後に230条について詳細に触れることにしよう。
I. 「テクノロジーセクターでの競争促進」。これは最も基本的な反トラスト（解散、買収・合併の審査）と、相互運用性の義務づけや自社優遇の禁止など、現代的でテクノロジーに特化した戦術の両面をカバーする原則である。概して評価できる内容だが、ハマっていはいけない落とし穴が3つほどある。
i. 性急な対応でユーザをリスクに晒す相互運用性の義務化。EUデジタル市場法は、メッセージツールの相互運用性を非現実的なほど短い期間で対応するよう義務づけている。暗号化メッセンジャーのセキュリティの重要性を考えれば、これはまったく賢明とは言えない。メッセージ暗号化の失敗は、世界中の人権活動家、ジャーナリスト、周縁化された人々の命にも関わる問題を引き起こす。ジャマル・カショギは、NSOグループが製造したサイバーウェポンにより知り合いの暗号化メッセージに侵入され、その後サウジ政府におびき出されて殺害された。そのことを忘れてはならない。
https://www.eff.org/deeplinks/2022/04/eu-digital-markets-acts-interoperability-rule-addresses-important-need-raises （邦訳記事）
ii. プラットフォームに言論を強制する必送（must-carry）ルール。大規模オンラインプラットフォームは新たな公共広場となった。だが、彼らはパブリック（官）ではなくプライベート（民）なのである。もちろん、どの表現を遮断し、どの表現を伝えるかという彼らの選択は、我々の市民生活や政治に多大な影響を及ぼす。だからといって、規制当局がプロバイダに自らの同意しない表現を流通させるよう強制する規則は、危険な前例を生み出すことになる。たとえば、あなたがバイデン政権による表現の強制（たとえば、ワクチンの偽情報に警告の付与を義務づけるルール）であれば問題なかろうと思っていたとしても、その権限がマージョリー・テイラー・グリーン政権でどう行使されるかを想像してみてほしい（訳注：グリーン下院議員は筋金入りのQアノン系陰謀論者。彼女が大統領になったなら、真っ先にワクチンを推奨する情報に警告が付与されることになるだろう）。
プラットフォームに我々の表現が支配されているからこそ、プラットフォームのモデレーション選択は危険なのである。プラットフォームにオンライン表現市場の支配を許せば、修正第一条の権利に重大な影響をおよぼすことになる。
https://locusmag.com/2020/01/cory-doctorow-inaction-is-a-form-of-action/
だが、その解決策は、プラットフォームを国家の一部門にすることではない。コミュニティの規範に対するコントロールをコミュニティ自体に委ね、プラットフォームによるモデレーションの選択の影響力を弱めることこそが必要とされているのである。
https://www.eff.org/deeplinks/2021/07/right-or-left-you-should-be-worried-about-big-tech-censorship （邦訳記事）
iii. 自社優遇の禁止は執行が極めて難しい。Appleが自社の天気予報アプリをApp Storeの最上位においたり、Googleが検索上部に天気予報のインフォボックスを表示したりすると、自社優遇ではないかと思われるかもしれない。だが、もしかしたらAppleは、本気で自分たちが最高の天気予報アプリを持っていると思っているのかもしれない。そもそも「最高の天気予報アプリ」の客観的な基準などは存在しない。プラトンの洞窟の壁の最前列にでも座らない限り、自社優遇と善意のキュレーションとを区別することはほぼ不可能だ。
だが、自社優遇を許容すべきだということではないし、自社優遇を検知して罰することはできないというわけでもない。テック企業は時おり、自社優遇についてのドキュメントを残していたりするものである。たとえばGoogleのエンジニアは、上司にメールを送ってGoogleの劣悪な検索結果をライバルよりも優先させられたことに不満を漏らしたりしている。
https://blog.yelp.com/news/yelp-testifying-in-google-antitrust-hearing/
とはいえ、そのようなやらかしがなければビッグテックの自社優遇を追及できないというのも困りものである。自社優遇に対する真の解決策は「構造的分離」だ。プラットフォーム運営者がプラットフォーム利用者と競合することを禁止することだ。審判はフィールド上のチームのオーナーであってはならない、それだけのことである。
https://locusmag.com/2022/03/cory-doctorow-vertically-challenged/
II. 「米国人のプライバシーのための堅牢な連邦政府の保護を提供する」。 当然のことだ。米国には連邦プライバシー法が必要であり、個人（および人権団体）は、検察がプライバシー侵害を問題視してくれるのを待つことなく、違反した企業を提訴できる私訴権がなくてはならない。これは絶対にやってくれ。
「ターゲット広告」はユーザに「より適切な内容」であるからして「ターゲティングされていない広告」よりも優れているのである、などとは露とも思わない。ユーザはクソ忌々しいターゲット広告を心底憎んでおり、アドブロッカーは人類史上最大規模のボイコット運動である。ユーザがターゲット広告をオプトアウトする選択肢を与えられれば、うっかり誤クリックでもさせられないかぎり、みなそれを選択するだろう。
III. 「オンラインプラットフォーム、製品、サービスのデザイン標準と実践による安全性の優先等、子どもたちのプライバシーとオンライン保護をさらに強化することで、子どもたちを保護する」。
いい考えだ。父親としても良い考えだと思う。ただ、うまくいかない可能性も大いにある。すでにカリフォルニア州が同様のルールを定めているが、あまりに曖昧すぎて、遵守は事実上不可能だ。
こうしたルールは、ともすれば子どもにあらゆるオンラインサービスの利用を禁じるものにもなりかねないが、それだけに留まらない。すべてのオンラインサービスが、侵入的な認証手続きを導入させることになるかもしれない（ユーザに子どもが含まれていないことを証明するために、公的IDを要求・保存し、その必然的帰結として漏洩が生じる）。
だが、こうした難しさは、ニヒリストにならなければ乗り越えられないというものではない。つまり、子どもをターゲットにするプラットフォーム、つまり、子ども向けのサービスとして売り込まれるプラットフォームに対し、子どもたちを広告の対象から除外し、データ収集を最小限にし、商業的捕食から保護するための措置を講じるよう要求すればいいのである。
V. 「プラットフォームのアルゴリズムとコンテンツモデレーションの決定に関する透明性を高める」。このお題目に反対する人たちは、モデレーションの詳細を明かせば、トロール（荒らし）やグリーファー（嫌がらせ野郎）を喜ばせることになると考えているのだろう。だが私は、「難解さに基づくセキュリティ（security through obscurity）」などという考え方には同意できない。
https://doctorow.medium.com/como-is-infosec-307f87004563
大規模プラットフォームの「民事司法」システムがどのように運用されるべきかについては、大いに議論の余地はある。だが1つだけはっきりしているのは、ユーザの発言に対する自動的な（機械による）判定は、人間の審査ほど正確ではないということだ。前者は大規模に、ほぼ瞬時に行われる。後者は熟慮すれば時間がかかりすぎるし、迅速すぎればニュアンスを理解できない。
興味深いアイデアとして、コンテンツモデレーションの審査を「システム的」な問題として構成し、モデレーションだけでなく「インモデレーション」（モデレートされないコンテンツ）にも対応できるようにする、というものがある。面白いと思う反面、ある種のギャンブルであることには注意が必要だが。
https://pluralistic.net/2022/03/12/move-slow-and-fix-things/#second-wave
VI. 「差別的アルゴリズムによる意思決定を止める」。これもムチャクチャ曖昧。機械学習の分類器が表現に基づいて差別しないようにするということなら、その実現は極めて難しそうである。アルゴリズムによるモデレーションは、その内容だけでなく表現の文脈にも基づいて行われる。ユーザの集団が示し合わせたようにハラスメント発言を一斉に投稿すると、その表現は警告・抑制・削除の対象になりうる。一方、同じ内容の発言をたった1人が一度だけ投稿した場合には、そのまま放置されるだろう。
だが、アルゴリズムによる差別はこれだけではない。典型的なのは、黒人ユーザを略奪的な金融商品のターゲットにしたり、雇用サイトで女性や人種的マイノリティに良い仕事を紹介しないようにするアルゴリズムだ。このような行為は既に違法であり、これを告発するために新たな法律を制定する必要はない。現在の規制当局に必要なのはこの手の問題に取り組むための執行権限とリソースである。
さて、以上がホワイトハウスのプランの中で、議論の余地の少ない5つの原則である。だが、おわかりのように私はIV.を省いた。これは「大規模テクノロジープラットフォームに対する特別な法的保護を廃止する」という原則である。
ホワイトハウスはここで、通信品位法（CDA）230条、通称「インターネットを創った26ワード」について述べている。
通信品位法230条は、ユーザの表現が連邦法に違反していたとしても、その表現の責任は表現を届けた仲介者ではなく、表現者自身にあるというルールである。このルールがあるからこそ、ユーザの表現をホスティングできているのだ。FacebookやTwitterはもちろんのこと、ブログのコメントやMastodonインスタンス、その他独立プラットフォームにいたるまで、すべてこのルールの上に成り立っている。
また、個人、非営利団体、民間団体、協同組合が独自の言論フォーラムを立ち上げることができるのも、このルールのおかげだ。CDA230条があるからこそ、ホスティング企業はユーザの表現をホストする前に事前審査をせずに済んでいる（あらゆるウェブページが、公開の前にその内容をホスティング企業に審査され、変更のたびにリーガルレビューされるという状況を思い浮かべてほしい）。
このルールは競争市場において非常に重要なルールなのだが、現在のような独占が進んだ世界――あるプラットフォームから追放されたら、その言論フォーラムは存続できなくなってしまう世界――では、その重要性はさらに増している（繰り返しになるが、あなたが支持する政治家がフォーラムを壊滅させるために使用した兵器は、デサンティス大統領がフォーラムを壊滅させるためにも用いられるのである）。
第一幕で暖炉の上に置かれた銃は、第三幕までには必ず暴発する。いかに弱い立場にある者であろうと、ひとたび裁判もなしに表現を排除できる権利を与えてしまえば、その権利はいずれ最悪の人間に最悪の方法で悪用されることになる。
数十年に渡る著作権の「ノーティス・アンド・テイクダウン（通知と削除）」システムの運用を通じて、我々はこのことをよくわかっているはずだ。このシステムは、著作権者を自称する者は誰であろうと、著作権侵害が実際にあったかどうかなどとは無関係に、ほとんどどこからでも、何だって削除できてしまう。
それがどんなものであるのかを知りたければ、Eliminaliaを調べてみればいい。彼らは独裁者、拷問者、殺人犯、強姦魔の評判を洗浄するために不正な著作権削除を行い、被害者やサバイバーのニュース記事や個人アカウントをインターネット上から削除してきたのだ（訳注：日本語関連記事）。
https://pluralistic.net/2021/04/23/reputation-laundry/#dark-ops
ドイツでは、ソニー・ミュージックがパブリックDNSプロバイダのQuad9に対し、ソニーの著作権を侵害するウェブサイトへのリンクが投稿されたウェブサイトのレコードをブロックせよと強要している。
ソニーはこれまで幾度も濫用的な言論統制を繰り返してきた。同社は日常的に、独立系ミュージシャンによるクラシックの演奏がソニーの著作権を侵害していると偽り、無慈悲にもその演奏を削除してきた。言い換えれば、ソニーは非道な著作権濫用者なのである。
https://pluralistic.net/2020/05/22/crisis-for-thee-not-me/#filternet
ポスト230条のインターネットを予測するのは、著作権戦争だけではない。仲介者にユーザの表現の責任を負わせればどうなるかは、SESTA/FOSTAがもたらした巻き込み被害を見ればいい。
https://www.eff.org/deeplinks/2018/03/how-congress-censored-internet
SESTA/FOSTAは（名目上は）性的人身売買対策法で、性的人身売買という凶悪犯罪に絡んでサービスを利用された企業に刑事責任を負わせている。SESTA/FOSTAの直接的な副作用は、セックスワーカーたちが自らの安全を確保するための利用していたサイトをインターネット上から一層してしまったことだ。
SESTA/FOSTAは、セックスワーカーたちを再び街頭に追いやり、ヤバい客の情報を共有するフォーラムを潰した。そして、セックスワーカーたちは自分の身を守るために第三者に頼らざるを得なくなり、ポン引きのルネサンスが花開くことになってしまったのである。
通信品位法230条の抑圧は、オンラインプラットフォームに「フェアネス・ドクトリン（公正原則）」（訳注：とりわけ「政治的中立性」）を求める圧力が高まっていることを考えれば、とりわけ危険である。230条がモデレーションを保護しているからこそ、オンラインホストは、ハラスメント、ヘイト、脅迫などの悪意ある言論をもれなくすべて削除しなければならないという懸念を抱くことなく削除できるのである。
これにより、モデレーターは、他のユーザを［差別用語］で中傷する人種差別主義者と、「あの人種差別主義者、私を［差別用語］と呼ぶだなんて信じられない！」と書き込むユーザとを区別することができる。230条が制定される前、裁判所は、あるサービスが何らかの表現をモデレーションしたら、すべての表現をモデレーションする義務を負うという立場を取ったことで、“マズイ表現をむしろ無視してしまう”逆のインセンティブを生み出してしまった。
230条は、あらゆるオンライン表現フォーラムを保護するのと同程度にビッグテック・プラットフォームを保護しているという意見もある。だが、それは間違いだ。230条は小規模なプラットフォームをこそ、大規模プラットフォームよりも保護しているのである。大企業であればこそ、すべてのユーザの投稿に目を通せるだけの弁護士とモデレータ軍団を雇えるのだから。
だからこそ、マーク・ザッカーバーグは230条の撤廃を望んでいる。彼が好んで言及しているように、Facebookのモデレーター人員の予算はTwitterの総収益を上回る。あなたがFacebookの競合となりうるほどの規模を目指そうとしても、ザッカーバーグは
a) どの企業もFacebookと競合することはできず、
b) 政府はFacebookをこれ以上小さくすることはない
ことを理解しているのだ。
230条を嫌っているのはザックだけではない。ドナルド・トランプもそうだ。トランプは、仲介事業者を保護する法律がなくなれば、言論弾圧を得意とする悪辣な攻撃的弁護士を雇える金持ちや権力者の好き放題になることを理解しているのである。
https://www.thedailybeast.com/60-minutes-boss-hired-law-firm-over-metoo-story/
トランプは数十年も#MeTooを阻止し続けてきた弁護士たちが大好きなのだ。虐待のサバイバーたちを脅すだけでなく、サバイバーたちの証言に耳を傾ける人たちを脅して削除させ続けたいのである。
ザックとトランプが230条の撤廃を素晴らしいアイデアだと考えている。この事実を知ってなお、少なくとも彼らと戦ってきた進歩主義者たちは230条の撤廃に一切のためらいを覚えないのだろうか。
https://www.theregister.com/2022/09/09/biden_tech_reform_section230/
Pluralistic: 10 Sep 2022 American healthcare did a fuckery, the White House has a plan for Big Tech big-data – Pluralistic: Daily links from Cory Doctorow
Author: Cory Doctorow / Pluralistic (CC BY 4.0)
Publication Date: September 10, 2022
Translation: heatwave_p2p
