問題を直視せよ、「子どもオンライン安全法」は答えではない

Fight for the Future

Fight for the Futureは、子どもオンライン安全法案（KOSA）の注意義務条項に反対している。この条項は子どもたちの安全を損ない、政治的に標的にされたコミュニティや周縁化されたコミュニティの言論や情報アクセスを制限する恐れがあり、最も弱い立場にある人々に悪影響を及ぼす可能性が高い。さらに、この注意義務条項は修正第1条に基づく違憲の訴えの対象ともなりうる。欠陥のある注意義務モデルに重点を置くことは間違った方向性であるだけでなく、おそらく無駄な努力に終わるだろう。実際、KOSAのモデルとなった州法案が最近、修正第1条に基づく違憲の訴えを受けて敗訴している。このことは、ビッグテックに責任を負わせるため注意義務モデルの欠陥が、危険であるだけでなく、意味のないものであることを如実に物語っている。

KOSAが言論に与える影響

KOSAの前例として最も顕著なのは、トランプ政権下で成立したSESTA/FOSTAだ。支持者たちは、この法案はオンラインの性的人身売買を取り締まるためのものだと主張したが、実際にはその目的はほとんど達成されず、むしろLGBTQ+の人々やセックスワーカーに深刻な被害をもたらした。彼らが被害を軽減するために頼っていたリソースが、SESTA/FOSTAに基づく言論取り締まりによって壊滅的な打撃を受けたのだ。KOSAもSESTA/FOSTAと同じ問題を抱えている。ソーシャルメディア企業は、政治的に標的にされたコミュニティ、コンテンツ、リソースに過剰反応し、過剰に取り締まるよう動機づけられるだろう。おそらくビッグテックは、KOSAの注意義務モデルに最も手っ取り早い方法で対応するだろう。つまり、法執行機関が問題視しそうなコンテンツを、その文脈や目的、特定のコミュニティにとっての価値を無視し、片っ端から削除したりシャドーバンしたりすることだ。

NetChoice対Bonta（第9巡回区）

第9巡回区控訴裁判所は、カリフォルニア州の年齢に適したデザインコード（CAADC）のうち、KOSAの注意義務に類似する条項が、表面上、修正第1条に違反する可能性が高いと判断した。CAADCはKOSAと同様に、企業に自社の製品、デザイン、アルゴリズムが子どもたちに害を与える可能性についてレポートを作成し、それらの害に関連するリスクを軽減または排除することを求めている。第9巡回区は、これらのレポート作成の義務づけが修正第1条に違反する可能性が高いと指摘した。さらに、コンテンツを取り締まる要件が「対象企業を国家の検閲者に仕立て上げている」と判断した。この要件が民間企業に「素材が子どもに適しているかどうかを判断する」よう要求しているからだ。州側は、この法案は設計に関するものでコンテンツには踏み込んでいないと主張したが、裁判所はこれを退けた。設計に関する規制が「コンテンツそのもの、あるいはコンテンツの代替物の検討を要求している」と判断したのだ。

裁判所は重要な指摘もしている。

「企業はまず、有害または潜在的に有害な素材とは何かを判断しなければ、子どもがプラットフォーム上でそうした素材に触れる可能性を評価できない。州自身の例を挙げれば、データプロファイリングにより、摂食障害に関する学校の課題で調べものをしている学生が、摂食障害に関するコンテンツを目にする可能性がある。企業はそのコンテンツが『子どもにとって有害または潜在的に有害』かどうかを評価し（つまり、どのような種類の摂食障害コンテンツが有害かについて判断し）なければ、そのコンテンツがCAADCAの下で『子どもに重大な損害を与えるリスク』をもたらすかどうかを判断できない。また、企業が遮断すべきコンテンツを特定していなければ、子どもが有害または潜在的に有害なコンテンツを閲覧するリスクを『軽減する』ための措置を講じることもできない。」

CCIA対Paxton（テキサス州）

テキサス州西部地区裁判所は、KOSAに似たもう一つの法案であるHB 18が修正第1条に違反すると裁定した。この法案もKOSAと同様の有害性リストを定めているが、こちらはより明示的に監視とフィルタリングを義務づけている。企業がリストアップされた害を防止・軽減するためにコンテンツを確認しなければならないことを考えれば、KOSAの注意義務も暗黙の監視とフィルタリング要件といえる。しかし、この程度の違いでは違憲審査には耐えられないだろう。

裁判所は、KOSAに対する違憲訴訟で提起されるであろう多数の主張に説得力があると判断した。たとえば、裁判所は「『促進』『薬物乱用』『ハラスメント』『グルーミング』といった用語は、潜在的に広範囲にわたり、政治的論争となる性質を持っているにもかかわらず、定義されていない」と指摘した。また、この法律が不十分であるとも判断した。一部のプラットフォームで特定のコンテンツを禁止しながら、ティーンエイジャーが他の場所で同じコンテンツにアクセスできるからだ。裁判所は具体例も挙げている。「ティーンエイジャーはGoogle Booksで医師による自殺幇助を擁護するピーター・シンガーの『実践倫理』を閲覧できるが、YouTubeで彼の講義を見ることはできず、Goodreadsで同じ本のレビューを読むこともできない」。裁判所は、この法案の最終的な結果として「未成年者がオンラインで民主的な意見交換に参加することを禁じている」と指摘し、さらに、「最高裁判所は、『若者にとって猥褻であろうと、他の合法的な禁止の対象でない言論は、立法機関が若者に不適切だと考える思想や画像から若者を保護するためだけに抑圧することはできない』ことを繰り返し強調している」と述べた。

セクション230では守られない

KOSAの擁護者の中には、通信品違法第230条があるのだから、このようなコンテンツに基づく害は生じ得ないと主張する者もいる。しかし、第3巡回区控訴裁判所は最近、アルゴリズムを介して提供されるコンテンツ（現在、インターネット上で閲覧されるほぼすべてのコンテンツがこれに該当する）は230条の保護を受けないと判断した。この判断は、第9巡回区の230条を狭く解釈する傾向に沿ったものだ。

命に関わるコンテンツを検閲し、違憲審査にも耐えられない法案に無駄なエネルギーを費やすな

議会は、ビッグテックをなんとかしなければならないと考えるコミュニティ間で、合意のある包括的なプライバシー法や反トラスト法の成立に注力できたはずだ。にもかかわらず、このKOSAの推進に何か月も費やしてきた。KOSAはLGBTQの若者や子どもたち全般に害を与えるだけでなく、注意義務モデルが法廷で通用しないことを明確に裁判所は示している。もう時間を無駄にするのはやめて、この問題に真剣に向き合わなけれならない。KOSAは解決策ではない。

以下は、Fight for the Futureのキャンペーナー、サラ・フィリップス（she/they）による声明である。

「KOSAに一貫して反対してきた数十のリプロダクティブ・ジャスティス、LGBTQ、デジタルライツ団体は、この法案がLGBTQと中絶に関するコンテンツを検閲し、子どもたちを安全に保つどころか、周縁化された若者をさらに危険にさらすと主張しています。何十万人もの若者が議会にメールや手紙を送っているにもかかわらず、これらの懸念はほとんど無視されてきました。そして今、裁判所も同じ懸念を述べています。この種の法律は検閲につながる、と。私たちは、デジタルプライバシー、反トラスト法、そして合意のある常識的な解決策のために闘うことができたはずです。しかしそうはならず、違憲審査に耐えられそうにない法案をめぐって戦うことに時間を浪費しています。もし本当に子どもたちを守りたいなら、特に周縁化された子どもたちのために、もっと良い方法を見つけなければなりません。」

KOSA doesn’t keep kids safe (and won’t hold up in court). Let’s do something better.