米国：セキュリティと言論・表現の自由を脅かすSTOP CSAM法案

Electronic Frontier Foundation

今週、米上院にインターネットのセキュリティと言論の自由を脅かす新たな法案が提出された。EFFは議会に対し、エンドツーエンド暗号化を提供するサービスを弱体化させ、インターネット企業に適法なユーザコンテンツの削除を強いる2023年STOP CSAM法を拒絶するよう要請する。

この法案は、児童性的虐待資料（CSAM：児童ポルノとも呼ばれる）をインターネット上から排除することを目的としている。現行法でも、自社プラットフォーム上に「明らかな」CSAMが存在することを実際に知った（have actual knowledge）オンラインサービスプロバイダは、そのコンテンツを事実上の政府機関である全米行方不明・被搾取児童センター（NCMEC）に報告することが義務づけられている。NCMECはその後、法執行機関に捜査を促す報告書を送付することになっている。

STOP CSAM法はそこからさらに踏み込んだ内容となっている。同法案では、プライベート・メッセージングやメールアプリ、ソーシャルメディアプラットフォーム、クラウドストレージプロバイダをはじめとする、様々なインターネット仲介事業者やオンラインサービスプロバイダ等の「インタラクティブ・コンピュータ・サービス」に広く適用される。この法案は、以下の4つを柱としている。

• プロバイダがCSAMを「知りつつ（knowingly）ホストまたは蔵置」したり、CSAMの作成を含む児童性的虐待を「知りつつ促進または助長」することを犯罪化する。
• 児童虐待の「促進または助長」、「児童ポルノのホストまたは蔵置」、「児童ポルノを公衆に利用可能したこと」について、インターネット企業やアプリストアに対し、過失という非常に低い基準で個人が訴訟を起こすことを奨励すべく、新たな民事請求規定と230条の適用除外を定める。
• プロバイダがプラットフォーム上のコンテンツについて実際の知識を得た場合、「明白な」CSAMの削除を（報告、保全に加えて）義務づける。
• 新設される児童オンライン保護委員会が監督するノーティス・アンド・テイクダウン（通知と削除）システムを構築し、コンテンツが実際にCSAMであると行政や司法が判断する前に、要請に従ってコンテンツの削除・不可視化をプロバイダに義務づける。

エンドツーエンド暗号化サービスの存続を揺るがし、セキュリティを脅かす法案

この法案は、児童ポルノと知りつつ「ホストまたは保存」したり、児童性的虐待を「促進または助長」することを犯罪化するものである。また、過失による児童虐待の「促進または助長」行為、「児童ポルノのホストまたは保存」、「児童ポルノを公衆に利用可能にした」プロバイダに民事訴訟を起こせるようにしている。

「促進」と「助長」は曖昧な用語であり、民事責任は最も低い主観的（state-of-mind）基準である過失基準に基づいて課される可能性がある。これは交通事故など、被告が意図としていなかったにも関わらず、不注意や不作為によって被害が生じた場合に適用される基準である。

曖昧な用語と低い基準に基づいてプロバイダへの新たな刑事・民事請求権を創設すれば、すべてのインターネットユーザのデジタルセキュリティを損なう結果を招く。現行法でもすでにCSAMの配布は禁止されており、法案の曖昧な用語は、単に暗号化アプリを提供するといった受動的な行為にまで及ぶと解釈される恐れがある。

テイクダウン通知を受けた暗号化コミュニケーションプロバイダは、そのサービスの性質上、テイクダウン通知（訳注：で指摘されたCSAM）を確認し、対処できなくても、刑法上の「知識」を有しているとみなされうる。また、原告側弁護士が、CSAMに限らず、あらゆる画像の保存に利用できる暗号化サービスを提供するだけで、違法コンテンツの共有を過失によって助長していると（間違いではあるが）主張することは目に見えている。

MetaやGoogleなどの大手企業と競合する新興企業は、こうした脅威と法廷で戦うためのリソースを持ち合わせてはいない。検察の裁量や、長期の法廷闘争の末に有利な判決を勝ち取らなければ、暗号化プラットフォームは存在してはならないのか。そうではなく、暗号化プロバイダへの具体的な免責を法案の本文で示すべきである。

230条に新たな例外を設けることで言論の自由を脅かす法案

法案にある新たな民事請求は、ネット言論とイノベーションの基盤たる230条を除外するものとなっている。230条は、インターネット企業にユーザ投稿コンテンツへの部分的な免責を与えている。230条に新たな例外を設け、第三者のコンテンツをホストするプラットフォームを提供しただけで、プロバイダが児童性的虐待を「助長」したとして訴えられるようにすれば、オンラインでの言論の自由を害することになるだろう。

230条はインターネット仲介事業者の参入障壁を下げ、世界中の人々が自由にコミュニケーションできるオンライン空間を構築するための法的な息継ぎを提供する。だが、プロバイダが無数の訴訟にさらされるような例外規定を新設してしまえば、プロバイダはその法的リスクを可能な限り低減しようとするだろう。オンラインサービスはそのコンテンツが実際に適法であるかどうかとは無関係に、ユーザアカウントやコンテンツを検閲するようになるだろう。一部のプラットフォームは、CSAMに関連する訴訟やクレームの嵐に巻き込まれることを恐れて、閉鎖を余儀なくされたり、そもそも事業を立ち上げることすらできなくなるかもしれない。このことは、自分たちのコミュニティや全世界とつながるために仲介事業者に依存するすべてのインターネットユーザに悪影響を及ぼすことになる。

CSAMであることが法的に判断される前にプロバイダに適法なコンテンツの削除を義務づけることで言論の自由を脅かす法案

STOP CSAM法の削除規定は、オンライン言論の自由に重大な脅威をもたらす。

ある規定では、プロバイダは、実際の知識を得た後に「明らかな」CSAMをNCMECに報告する現行法の義務に加え、コンテンツが違法なCSAMであるとの司法判断なしに、サービス上から削除しなければならない。だが、そうした報告に誤りが含まれていることがすでに明らかになっている。

別の規定では、新設される児童オンライン保護委員会が監督する複雑なノーティス・アンド・テイクダウン体制が構築され、個人が企業に対してプラットフォーム上からCSAMであることが疑われるコンテンツを排除するよう申し立てることができるようになる。この制度は、バッドアクターに悪用される可能性が高く、適法なユーザコンテンツが偽の削除要求にさらされるおそれがある。セクシュアリティ、性的指向、性自認に関連した憲法修正第1条で保護されたコンテンツは、おそらく無分別なテイクダウン通知のターゲットになるだろう。

ノーティス・アンド・テイクダウンは次のような手続きを経る。プロバイダはテイクダウン通知に対し、（1）2日以内にコンテンツを削除するか、（2）合理的な手段で削除できないことを当該ユーザに通知しなければならない。また、プロバイダがコンテンツが保護される言論であると考えた場合、申立人に非公式に連絡を取ることができる。だが、それがうまくいかなければ、プロバイダが選択できる唯一の救済策は、コンテンツを不可視化した上で、委員会にテイクダウン通知への異議を申し立てることだけである。最終的にプロバイダの異議申し立てが認められたとしても、その判断が下される前に適法なコンテンツがオフラインにされうるという事実は、言論の自由とは相容れないものである。さらに、委員会の審査には明らかに違憲な箝口令が敷かれているため、無分別なテイクダウン要請の対象となったコンテンツのクリエイターは、最終的な判断がくだされるまで、その手続について知らされることはない。

準司法的な委員会の手続きに疑問を呈する理由は他にもある。インターネット全体のテイクダウン紛争を捌くことを考えれば、資金・人員不足に陥る可能性が極めて高い。さらに委員会の手続きは自発的なものであり、それに参加するには当事者が連邦裁判所での「紛争解決」の権利を放棄することに同意しなければならないようだ。

ただし、これはすべて、プロバイダが委員会に無分別なクレームへの異議申し立てをしてくれることを前提としている。だが、プロバイダがわざわざ異議申し立てするとは思い難い。行政・司法手続きにかかるコストや負担を避けるために、クレームの対象となった適法なコンテンツを単に削除するインセンティブが勝る可能性が高いからだ。

議会は、オンラインのセキュリティと言論の自由を損なう立法をしてはならない。そうではなく、行政府に現行法の執行を迫るべきだ。2008年以来、CSAMがプラットフォーム上に存在することを実際に知ったにもかからわず報告をしなかったプロバイダは、巨額の罰金を科されることになってる。だが、連邦政府がこの規定を執行した事例を我々は知らない。また、FTC（連邦取引委員会）はFTC法第5条に基づき、欺瞞的行為を取り締まる権限を有している。プロバイダがCSAMの削除をユーザに約束している場合には、プロバイダが自らのコンテンツポリシーを遵守していないというクレームを調査し、その公約を強制することもできるはずだ。