「子どもオンライン安全法」の「注意義務」規定は合憲なのか

Center for Democracy & Technology

今年上院を通過した子どもオンライン安全法（KOSA）が、今週、下院エネルギー商業委員会で審議される可能性が出てきた。紆余曲折を経てきたKOSAは常に論争の的となってきたが、2年以上前の法案提出以来、成立に最も近づいている。下院での審議結果は（もし行われれば）、この法案が法律として日の目を見るかどうかを左右するだろう。

しかし、KOSAの先行きに新たな暗雲が立ち込めている。最高裁判所と第9巡回控訴裁判所の最近の判決は、この法案の重要な要素が曖昧な基準に基づいてコンテンツの検閲を求めているため、おそらく憲法修正第1条に違反するというCDTや他の組織の懸念を裏付けている。議員たちが表現の自由と子どもたちのオンライン保護を真剣に守りたいのであれば、軌道修正が必要だ。

KOSAの注意義務とは

上院を通過したKOSAでは、対象サービスは設計機能（法案では、パーソナル・レコメンド・システムや通知、外観変更機能などと定義されている）の作成や実装において「合理的な注意」を払い、未成年者の不安やうつ病などの精神的健康障害、オンラインいじめといった特定の害を防止・軽減することが求められる。

この規定の執行は連邦取引委員会（FTC）が担当する。州司法長官は連邦の注意義務を直接執行する権限はないが、法案の他の条項を執行することはできる。

法案の提出以来、CDTや多くのアライ組織は一貫して、この注意義務規定が表現の自由に重大な懸念を引き起こすと指摘してきた。この規定はプラットフォームに、「不安」や「うつ病」を引き起こす、あるいは未成年者に害を与えるコンテンツのカテゴリーを決定し、そのコンテンツをレコメンドシステムからダウンランクまたは削除することを事実上強制するためだ。

こうした決定は、政府内の政治的アクターの影響を強く受けるおそれがある。彼らは、性教育（リプロダクティブ・ケアやジェンダーアイデンティティなど）、LGBTQのサポートやコミュニティ、世界の紛争、気候変動、あるいは政府関係者の世界観に反するあらゆる問題に関連するコンテンツが、不安やうつ病を引き起こすとして、未成年者に有害だという立場を取るかもしれない。これらのコンテンツの多くは、たとえ政治的に議論のあるものであろうと、未成年者の健康と安全に極めて重要だ。また、これらは憲法で保護されており、政府が制限するにはそうすべき説得力のある理由と、不必要な検閲を避けるための慎重な調整が必要となる。

コンテンツモデレーションの制限に関する最近の判決

最近の2つの判決は、CDTとパートナー組織がKOSAの注意義務の違憲性について主張してきた議論を裏付けるものであり、裁判所が今後、この規定をどのように分析するかについても示唆を与えている。

1つ目は、最高裁判所のMoody v. NetChoice判決だ。裁判所は、ソーシャルメディアプラットフォームが従来のニュースフィードでコンテンツをモデレーションすることは、修正第1条によって保護される編集上の意思決定であると明確に述べた。

2つ目は、より関連性の高いNetChoice v. Bonta判決だ。第9巡回控訴裁判所は、カリフォルニア州の年齢に適したデザインコード法（CAADCA）のデータ保護影響評価（DPIA）要件に対する予備的差し止め命令を支持した。この要件は多くの点でKOSAの注意義務と類似している。

Moody v. NetChoiceにおいて、最高裁判所は初めて明確に、ユーザの投稿を選別・整理するプロセスとプラットフォーム上で適切なコンテンツに関するルールの執行、つまりコンテンツモデレーションは、修正第1条の保護を受ける編集プロセスであると述べた。裁判所は特に、FacebookのニュースフィードやYouTubeのホームページのような「従来のニュースフィード」――サービスがさまざまな要因に基づいてユーザに表示（または非表示）するコンテンツを配置する製品に焦点を当てて分析した。

この判決により、今後、政府がその編集プロセスを規制しようとして、特定のコンテンツをニュースフィードから制限するよう要求することは、明らかに修正第1条の壁に直面することになる。

一方、NetChoice v. Bontaの対象となったCAADCAは、子どもがアクセスする可能性のある各製品またはサービスについて、対象プラットフォームにDPIA報告書の作成と提出を義務付けている。報告書には、製品の設計が「有害なコンテンツ」を子どもに見せ、害を及ぼす可能性があるかどうかを記載しなければならない。さらに、特定したリスクを軽減または排除するための期限付き計画も作成し、それをDPIA報告書に含める必要がある。

第9巡回控訴裁判所は、このDPIA要件が修正第1条に違反する可能性が高いと判断した。DPIA報告書が対象企業の商業的利益以外の要素に基づく言論の強制を構成するため、したがって厳格な審査の対象となるからだ。さらに、報告書の作成過程で企業は「子どもに有害」かもしれないコンテンツに関する意見を形成し、そのコンテンツを検閲することでそれらの害を軽減する行動計画を策定しなければならない。裁判所は、この要件が「対象企業を州の検閲者として仕立て上げている」ため、修正第1条に違反する可能性が高いと指摘した。

KOSAの注意義務への潜在的影響

KOSAの注意義務は、CAADCAのDPIA報告書と多くの点で類似している。いずれもプラットフォームに対し、子どもに害を与える可能性のあるコンテンツの種類について意見を形成し、パーソナライズされたレコメンドシステム（つまりニュースフィード）でそれらの害を軽減することを要求している。言い換えれば、KOSAを通じて、政府は対象サービスに州の検閲者としての役割を担わせようとしているのだ。

Moody v. NetChoice判決に照らせば、この要件は修正第1条の厳格な審査の対象となることは明らかだ。つまり、政府はこの要件を制定する説得力のある利益があること、この要件が政府の利益を促進すること、そしてそれがその目標を達成するための最も制限の少ない手段であることを証明しなければならない。第9巡回控訴裁判所のCAADCA事件の判決は、この基準をDPIAに適用し、それがこのような審査に耐えられない可能性が高いと判断した。

同じ論理をKOSAの注意義務に当てはめると、少なくともそれが対象プラットフォームにニュースフィードを通じて未成年者に配信できるコンテンツに関する選択の変更を要求するのであれば、この規定はCAADCAのDPIAと同じ運命をたどることになるのだろう。

ただし、これは政府がこの分野で一切何もできないということではない。コンテンツ以外の他の設計機能への注意義務の適用は合憲である可能性がある。さらに、電子フロンティア財団とともに提出したBonta事件の法廷助言書で説明したように、CAADCAのコンテンツ制限の側面が違憲だと判断されても、適切に策定されたプライバシー法の合憲性を危うくすべきではない。KOSAの注意義務についても同じことが言える。

KOSAとCAADCAはともに支持者によってオンライン上の子どものプライバシーを保護する試みとして特徴づけられてきた。しかし、注意義務とDPIAは子どものデータを保護することを目的としているのではなく、子どもが閲覧できる内容を制限することを目的としている点に注意が必要だ。第9巡回控訴裁判所のCAADCAに関する判決は、この点について適切な慎重さを持って進め、DPIAのみが違憲である可能性が高いと判断し、法令の他の規定の分析を地方裁判所に差し戻している。

KOSAの注意義務に代わる道筋は

CDTが以前に指摘したように、議会は通信品位法を可決した際に、オンライン上の子どもを保護しようとする同様の試みを行ったことがある。その法律の多くの条項は、憲法で保護された表現の伝達を禁止または犯罪化するものだったため、最終的に最高裁判所によって無効とされた。

しかし、その法律には別の重要な条項があった。通信品位法の第230条だ。230条は、ユーザやインタラクティブコンピュータサービスが他者のコンテンツに責任を負わないようにすることでオンラインの表現の自由を保護するだけでなく、有害なコンテンツのモデレーションと、ユーザがオンライン体験をより良くコントロールできるようにするツールの作成を奨励した。

ユーザのエンパワーメントは、オンライン上の子どもを保護するという政府の目標を達成するための、より制限の少ない手段であることに疑いの余地がない。第9巡回控訴裁判所もDPIA事件において、「企業に自主的なコンテンツフィルターやアプリケーションブロッカーの提供を奨励すること」が、正当な目的を達成するためのより制限の少ない手段であると述べている。

議会は、憲法上の異議に直面する可能性の高い検閲を要求することに執着するのではなく、ユーザがオンライン体験をコントロールするのを助けるツールやサービスの開発に追加的なインセンティブを創出することに目を向けるべきだ。制定当時、230条の多くの支持者は、オンライン体験と子どもたちの安全性を向上させるユーザツールの活気ある市場を奨励するものと考えていた。

その市場はまだ十分に実現していない。だが今こそ議会は、修正第1条に抵触することなく、子どもたちとすべての人々をオンラインで保護するツールにさらなる支援を提供する好機と捉えるべきだ。

Recent Court Opinions Cast Additional Constitutional Doubt on KOSA’s Duty of Care – Center for Democracy and Technology