英国の有害ネット情報規制法：表現の自由は危機を脱していない

本日（2020年12月15日）、政府は来年のオンライン・セーフティ法案の発表に先立ち、長らく待たれていた有害ネット情報白書（Online Harms White Paper）に対する回答を公表した。

オープン・ライツ・グループは、このフレームワークが表現の自由やプライバシーに及ぼす影響を引き続き懸念している。

プライベート・メッセージ

政府は、対人コミュニケーションやソーシャルメディアなどのプライベートなメッセージのやり取りが、有害ネット情報の枠組みの範疇に含まれることを示唆している。プライベート・メッセージは、CSAMやテロリストのコンテンツがやり取りされているという前提で、傍受やスキャンの対象になる可能性がある。企業がプライベート・メッセージを保護するために暗号化を使用する場合には、違法なコンテンツを扱っていないことを証明しなくてはならない。このように、暗号化とプライバシーは私たちの権利ではなく、企業の幅広いポリシーに依存する特権とみなされている。

犯罪化を前提とした規制の枠組みであるにもかかわらず、政府は「ユーザの権利を保護するための厳格な法的セーフガード」がどのようなものになるのかには言及していない。この種の問題はOfcomに委ねられ、プライベート通信に関する「行動規範」の中で解決されることになるという。

第三者による違法な傍受からプライベート・メッセージを保護するために、プライバシーとセキュリティのセーフガードを必要に応じて使用した場合、「注意義務」の遵守と違反の両方に該当するという事態が引き起こされることが懸念される。

「適法だが有害」

提案されているオンライン有害情報規制の枠組みでは、表現の自由を守るために、コンテンツ提供者に違法なコンテンツと「適法だが有害な」コンテンツを異なる方法で取り扱うよう求めている。法の支配の範囲内で、明白に違法であるコンテンツは、コンテンツ・プロバイダによる管理・軽減が比較的容易である。一方、コンテンツプロバイダに「合法だが有害」なコンテンツの規制を求めるとなると、客観的な法令遵守を達成するために、主観的な基準で「有害」のリスク、可能性、結果を評価する義務が生じることになる。

政府は未だに有害性やリスクの定義を明らかにしていない。政府は「この法律は、有害なコンテンツや有害な活動の一般的な定義を定めるものである」としている。残念なことに、この部分こそ規制措置の閾値を決定する中心的な問題であるにもかかわらず、まだ答えは出ていないのだという。

同様に、回答では「注意義務を果たすために、対象となる企業は、自社のサービスを利用する個人に危害のリスクを理解させ、ユーザの安全性を向上させるための適切なシステムやプロセスを導入しなくてはならない」としている。だが、どのようにしてリスク全般、あるいは個人のリスクを定量化するのかは未だわかっていない。比例性について望ましい記述はあるが、注意義務は驚くほど曖昧で、多様な解釈の余地が残されている。

「適法だが有害」なコンテンツについて、複雑かつ多様な有害性抑制の仕組みを設けることは、最大手のプラットフォーマーやコンテンツプロバイダー以外には実現不可能であり、現実的ではない。実際、サービスプロバイダや管理者は、失敗した場合に金銭的・刑事的制裁を負わされる危険を冒すくらいなら、まったく罪のない無害なコンテンツを削除するしかないと考えるようになる。その結果、「巻き添え検閲」が生じることになるだろう。表現の自由に対する萎縮効果は避けられないと考えられる。

本回答では、対象となる企業は、有効かつアクセス可能な報告・救済メカニズムを構築する義務を負うとしている。こうした仕組みは、過剰なコンテンツ削除などの権利侵害を緩和する措置ではあるものの、一般に利用者は異議申し立てに時間とエネルギーを費やすことに消極的であるため、異議申し立てだけでは十分な権利保護とは言えない。もちろん、異議申し立ての部分で問題を抱えていることも事実ではあるが、それだけで表現の自由に課されるコストを取り除くものとなりえない。

政府は、過去にNominetドメイン（.ukドメイン）のテイクダウンシステムに見られたように、コンテンツ削除において十分な透明性を提供しなかったという過ちを犯したことがあるが、この回答では当初から透明性の確保を約束していることは心強い。同様に、政府は利用規約の不当な適用に対する罰則を、過剰なコンテンツ削除にも適用されうることを示唆している。確かに、利用規約の不当な適用や過剰適用に対する負のインセンティブは必要になるだろう。

この制度では、利用規約は新たな意味を持つことになる。これまで、利用規約はユーザにほとんど権利を与えないまま、プラットフォームによる恣意的な行動を許してきた。だが今後は、表現の範囲と削除の執行可能性を決定する戦場になるだろう。一度落ち着けば、執行可能性は潜在的に良い面を含んでいるが、企業に圧力をかけて禁止の範囲を拡大させる機会がもたらされることは大いに問題がある。

2階建て構造（TWO-TIER SYSTEM）

政府は、イノベーティブな小規模企業に多大な負担を強いているという批判を避けるために、2階建てのシステムを構築しようとしている。だが、これでは有害ネット情報規制法の制定を後押ししてきた団体の要求を満たすことはできない。

政府は、巨大プラットフォームのほうがコンプライアンスや統制の面で御しやすいという戦略的課題を抱えることになる。この種のコンテンツ規制では、中小企業と大企業の異なるニーズを調整しなくてはならならず、コンテンツであれ監視であれ、国家が政策目標を実現するために大企業を好むことになるだろう。権利や民主的言説にとって危険なのは、独占企業が変化の乏しい環境を提供することにある。さまざまな体験やコンテンツが提供される環境を作り出すために、ソーシャルメディアの多様性を生み出すことを目指さなくてはならない。

経営者責任

表現・コンテンツ犯罪に対する経営陣・上級管理職の責任に関する要請を、政府が一部撤回したことは歓迎したい。本日の回答によると、政府は「おん欄犯罪規制機関からの情報提供要請に、完全かつ正確、またタイムリーに対応できなかった上級管理職に対して刑事制裁を導入する権利を留保する」とし、このオプションは関連法の制定なしに導入されることはないとしている。この制度の制裁措置は、表現の自由を阻害する可能性のあるコンテンツ紛争に対する報復的措置ではなく、規制当局の関与が組織的に行われたなかった場合の採取手段に過ぎない。

しかし、企業の経営陣や上級管理職の責任や刑事罰の導入を留保するという態度は、誤ったメッセージを送ることになる。こうした制度は民主主義社会が本来受け入れてはならない類の措置である。この制度を、ハンガリー、香港、トルコに導入すればどういうことになるか、火を見るより明らかであろう。

有害ネット情報の問題は、人格攻撃的な「魔女狩り」、逮捕、裁判という一連の流れを作ったところで解決するものではない。また、一般ユーザがサイトに規約やサービスを悪用したことに対して、サイト管理者やモデレーターを犯罪者に仕立て上げても、同様に解決することはない。政府は、この条項をダモクレスの剣として、報道機関などの圧力に応じて制定するために残すのではなく、削除すべきだ。

メディアと報道コンテンツ

表現の自由を確実にするため、政府は自社サイトで公開される新聞記事やジャーナリズムコンテンツを規制の対象外とする考えを示している。記事のコメント欄に投稿される「どうしようもない」コメントも対象外となる。

だがこれは、メディアコンテンツが閉じた庭の中に存在する場合のアプローチである。メディア・コンテンツがプラットフォームで共有・議論され、コンテンツそのものとそれに伴う議論の両方がコンテンツ規制の原則に抵触するリスクがある場合にどうなるのかについては言及されていない。政府は「法律には、対象となるサービス内で共有されるジャーナリズムコンテンツに対する強力な保護が含まれる」としている。

だが、新聞コンテンツの共有がプラットフォームの利用規約を免除されるような空間を作り出さない限り、実際にどのように機能するのかはわからない。要するに、お気に入りのタブロイド紙の記事の投稿であれば、制限は緩和されるということである。これでは意味がない。

次はどうなる？

設計の悪い政策を見分けるのは簡単だ。最初に誇大に喧伝され、比較的狭い範囲の問題だけが推し進められ、実現までに何年もかかり、そして結局、期待はずれに終わるか、忘れ去られてしまう。2010年デジタル経済法のインターネット遮断を覚えているだろうか。あるいは、2016年DEAの年齢認証は？

英国が提案する口うるさい規制当局と幅広い注意義務と、他国で提案されている比較的狭いアプローチの間には、すでに著しい乖離が見られている。さまざまな不満から政治的圧力が高まっていることは確かに事実である。そして、問題が現実に起こっているのも事実である。しかし、市場が集中し、アテンションモデルに傾倒するなかで、注意義務が実際に問題に対処しうるかは明らかではない。

結局のところ、問題の主な要因は、プラットフォームのリーチ、相互作用への依存、それによって生じる脆弱性を悪用しようとするユーザ、そして、ユーザがプラットフォームでの体験を自ら決定するための選択肢がないことである。システム的なアプローチと言っても、注意義務は問題の本質に対処するものではなく、極めて政治的で極端な問題にリスク評価を求めることにほかならない。

とはいえ、政府がこうした問題は簡単に解決できるものではないと理解していることは評価できる。議会が今後提出される法案を評価し、このアプローチのの弱点を見出したときに、この問題は再燃するだろう。そしてより強力で危険な介入が求められるのだろう。また、Ofcomが政策の意図通りに役割を果たすと、さらなる問題が生じる可能性がある。その場合、Ofcomも有害ネット情報規制法案の提出者を失望させることになるだろう。

我々は、有害ネット情報規制の枠組みで提起されたこれら問題やその他の問題んいついて、政府やOfcomとの対話を継続し、プライバシーや表現の自由の権利を守るために取り組んでいくつもりだ。また、我々は、プラットフォームの支配力の問題を解決するためのアプローチも提唱していく。つまり、あなたのプロファイリングや情報の優先順位を決める方法について、競争やコントロールを強化していく。権利と原則こそが、この複雑な世界における答えである。

Online harms: Freedom of expression remains under threat | Open Rights Group