危機的状況におけるコンテンツ・ガバナンス：プラットフォームはいかにして人権を守るべきか

Access Now

武力紛争を始めとする危機的状況において、人々はソーシャルメディアやメッセンジャーを利用して、人権侵害や戦争犯罪の記録、情報へのアクセス、行動を起こすための動員、人道支援のクラウドソーシングを行っている。だが、政府などのアクターは、そのプラットフォームを悪用して、偽情報やヘイトスピーチを広め、暴力を扇動し、活動家、ジャーナリスト、反体制派を攻撃・監視している。ソーシャルメディア企業が果たす役割の重要性に鑑み、Access Nowとパートナー団体は、危機的状況におけるコンテンツとプラットフォーム・ガバナンス原則の宣言を共同で起草した。

この宣言は、Access Now、ARTICLE 19、Mnemonic、Center for Democracy and Technology、JustPeace Labs、Digital Security Lab Ukraine、Centre for Democracy and Rule of Law（CEDEM）、Myanmar Internet Projectが共同で作成し、危機の前・最中・後においてプラットフォームによる人権保護を支援するためのガイドラインを定めている。

ソーシャルメディア企業は、そのシステムの使用に起因する人権侵害を防止し、軽減する責任を負う。だが歴史的に見ると、エチオピア、シリア、イスラエル／パレスチナ、ミャンマーにおける紛争への対応に失敗してきたように、その対応は十分とはいえず、一貫性を欠いている。これらの失敗は、周縁化されたコミュニティに偏った影響を与え、深刻な人権侵害を助長してきた。

この宣言は、企業が危機に適切に対応し、国際人権法の下での義務と責任を果たすために、人権を尊重する一貫した原則を掲げるための取り組みである。以下に、我々の主要な提言をまとめる。

1. 危機のライフサイクル、紛争、人的脆弱性に対処するため、人権デューデリジェンス（HRDD）を実施する。
   • 国連「ビジネスと人権に関する指導原則」に基づき、事前の人権影響評価（HRIA）を定期的に実施し、特定された人権への悪影響を軽減するために必要な措置をすべて講じる
   • 紛争の影響を受ける地域や高リスク地域を特定し、監視し続ける。ソーシャルメディア企業は、デューデリジェンスを強化する地域を検出する危機管理マトリクスを開発しなければならない。
   • 現地の専門知識・言語能力を備えたチームを構築する。
   • 危機が予測される国／地域の特殊性や影響を受ける地域の文脈に合わせて、特別な人権および紛争リスクアセスメントを実施する。
   • 危機対応メカニズムの有効性を評価し、ポリシー対応、執行、リソースのギャップを特定し、それによって発見された教訓や勧告の適切な実施を確認する独立監査を毎年実施する。
2. 紛争の影響を受ける地域や高リスク地域で活動する市民社会団体など、関連する独立したステークホルダーとの有意義かつ直接的なエンゲージメントのチャネルを作成する。とりわけ、外部の専門家、関連するステークホルダー、影響を受けるコミュニティの代表者が、プラットフォームのコンテンツモデレーションおよびコンテンツキュレーションポリシーに以下の情報を提供できるようにする。
   • 信頼できるパートナー、独立したメディア組織、個人、フラッガーとの強力かつ継続的な協力関係の構築すること。とりわけ活動が暴力をエスカレートさせ、緊張を高める可能性がある場合。
   • コンテンツモデレーションに十分な財政的・言語的・人的資源を割り当てること。
   • 個人の身体的安全に対する差し迫った脅威を察知するため、緊急事態に対する早期警戒システムと明確なエスカレーションシステムを確立すること。
   • 国際・地域・国内のオフィスとスタッフの取り組みを調整し、動的な文脈に精通した人権担当者が率いる、時宜的かつ一貫した意思決定を可能にすること。
3. 潜在的な被害を防止・軽減するため、あらゆるレベルのリスクを考慮した危機管理プロトコルを策定する。
   • 将来または当該時点の危機について、予見可能なあらゆるリスクを適切に軽減する、紛争状況に対応したユーザのための措置を開発・採用すること。これらは特にグループや個人の人権保護にフォーカスすべきである。
   • 危機発生以前に、特にグループや個人のリスクとその人権にフォーカスした危機対応プロトコルを開発し、テストすること。
   • 関連国連機関から提供された危機に関する情報を表示し、定期的に更新すること。
   • ソーシャルメディア・プラットフォームは、紛争の影響を受ける高リスク地域ごとに、関連する文脈と言語能力を備えた専門の危機管理チームを任命すること。

あらゆるシナリオに適用可能な基本原則（とりわけ進行中の危機におけるプロトコル）

1. 人権への実際または予見可能な悪影響を特定・軽減するために、継続的かつ迅速で紛争に対応した人権デューデリジェンス（HRDD）を実施すること。
2. 危機や武力紛争が発生した場合、国内・地域の市民社会団体や専門家との有意義かつ直接的、同時並行的なエンゲージメントを活性化し、進行中の状況や企業の対策・行動に関してステークホルダーに定期的に情報を提供すること。
3. 武力紛争や危機に際して、市場価値や利益ではなく、人権の脅威と侵害の重大性、規模、範囲に基づいた資源配分を優先し、公平・構成・一貫したアプローチをとること。また、英語圏以外の国・地域にも公平に投資・優先すること。文化や言語の知識を持つスタッフやコンテンツレビュワーを雇用し、事業を展開するあらゆる地域で企業のポリシーを効率的に執行できるようにするとともに、標準的な危機対応手順を作成し、必要に応じて実施できるようにすること。
4. コンテンツモデレーション・ポリシーの設計と執行について、人間および自動化の双方で完全な透明性を提供する。
   • コンテンツモデレーション・ポリシーの適用除外や特別措置を、公開・明確・具体的・予測可能・期間限定とし、影響を受けるコミュニティが使用する言語で積極的に公示すること。
   • 紛争の影響を受けた地域や高リスク地域のコンテンツについては、当該地域の文脈を踏まえたモデレーション（geo-moderation）アプローチをとること。特定の国や地域でのコンテンツブロックや保留は、危機的状況におけるコンテンツモデレーションの最適なアプローチではないおそれがあり、最終手段としてのみ考慮すべきであることを念頭に置くこと。
   • 従業員を深刻なリスクに晒すおそれがない場合に限り、また法的枠組みで認められる範囲において、ソーシャルメディアプラットフォームに対する政府の要請およびその対応を、自発的な報告チャネルを含めて開示すること。
   • 公的機関による要請が、紛争または危機に関連するコンテンツのモデレーション／キュレーションのために開発された自動的意思決定の調整ないし変更につながったかを開示すること。
   • 周縁化されたコミュニティや歴史的に抑圧されてきたコミュニティ似不当に影響を与える恣意的かつ差別的な検閲のリスクなど、過剰執行（偽陽性）・過小執行（偽陰性）のリスクおよび害を軽減するため、文脈を考慮しない自動的意思決定システムの運用を評価すること。
   • 英語以外の言語での自動化コンテンツモデレーションおよびキュレーションツールを導入する場合、常に人間が出力を確認すること。
   • 包括的なコンテンツ抑制（de-amplification）、「シャドウバン」、コンテンツの降格（deranking ）のために実装された自動化モデルを開示すること。
   • テロ対策のためのグローバルインターネットフォーラム（GIFTC）のハッシュ共有データベースに追加されたコンテンツを含む、いわゆるテロおよび暴力的過激派コンテンツ（TVEC）を定義・検出・審査・削除するためにソーシャルメディアプラットフォームが使用する基準に関する透明性を提供すること。
5. プラットフォームが削除したコンテンツを3年間に渡って保存し、国際刑事裁判所（ICC）、国際司法裁判所、国連が命じた調査機関や委員会など、各国の法執行機関以外の国際的な説明責任メカニズムにそれらアーカイブ資料へのアクセスを認めるセキュアなメカニズムを構築する。
   • 説明責任を確立し、司法当局が保存・アーカイブされたコンテンツを確認する十分な時間を確保するために、プライバシーとデータ保護に関する国際基準に従い、高リスク国や紛争の影響を受ける地域の外に蔵置・保存することを保証すること。
   • ソーシャルメディアサービスを利用する個人が視覚的・暴力的なコンテンツにさらされないように保護する一方で、人権侵害や残虐行為の目撃者に記録の機会を提供すること。
6. 透明性があり、明確で、人権を尊重し、アクセス可能な通知・審査メカニズムを構築し、有効な救済へのアクセスを提供する。
   • コンテンツや言論に関するモデレーションの決定がなされた場合、その決定の理由、違反したルール、コンテンツモデレーション・ガイドラインに基づく解釈、今後とられる措置、異議申立の方法についてユーザに通知すること。
   • ユーザがコンテンツモデレーションの決定の見直しを要求できるように、透明性があり、明確、予測可能、アクセス可能な異議申立メカニズムを提供すること。
   • ユーザが自動化モデレーションプロセスの対象となる場合、そのメカニズムがどのように機能するか、どうすれば人間の審査を要求できるかを通知すること。
   • プラットフォームのポリシー、製品、プラクティスに影響を受けたユーザに、透明性が高い有効、容易、かつ適時的な救済へのアクセスを提供すること。
7. 各々のプラットフォームのビジネスモデルに関連する人権リスクに対処する。
   • ソーシャルメディア企業は、監視型広告（一般には個人データに基づく追跡とプロファイリングを通じて、個人のセグメントをターゲットにするデジタル広告）が、進行中ないし将来の人権侵害に寄与しないことを保証すること。
   • ソーシャルメディア企業は、自社の収益化プログラムが、制裁対象の団体・関連アクター、偽情報コンテンツを組織的に製造・配布する国内外のアクターに収益をもたらさないことを保証すること。
8. 高リスクユーザのために、アカウントレベルでの安全機能を有効にすること。これには、外部アクターによるプライベート・プロファイルのロック、チャットおよびメッセージ機能のエンドツーエンド暗号化、メッセージの自動消去の有効化、暗号化チャットがスクリーンショットされた場合の通知、フォロワーリスト検索の制限、現地語でのデジタルセーフティ／セキュリティTIPSの提供などがあるが、これに限定されない。

危機発生後のエンゲージメントの原則およびプロトコル

1. 事業を（訳注：当該国・地域から）撤退する前に、段階的な移行を実施し、紛争の深刻度と展開の継続的な評価に基づき、プラットフォーム機能の変更についてユーザに通知すること。
2. 周期的に拡大・縮小することが多い紛争・危機の展開を通じて、人権へのネガティブな影響を特定・緩和・対処するためのHRDDを継続的に実施する。さらに、プラットフォームは以下の項目を実施すること。
   • 危機管理プロトコルや手続きが適切に遵守・実行されたかを、市民社会団体や人権団体等の現地ステークホルダーからのフィードバックを統合的に検証する監査を実施すること。
   • 公開かつ完全、独立した人権影響評価を実施すること。とりわけ、コンテンツモデレーションや危機管理措置が個人やコミュニティの人権に深刻な影響を与え、緊張や対立を悪化させ、人命や身体的被害をもたらした／その一因となった場合や、影響を受けた個人やコミュニティ間で集団的な不満が高まった場合。
   • これら監査や評価の結果が、明確に定義され、透明性が担保され、測定可能で、期限を設定した上で、ポリシーないし製品の変更・調整に反映させることを確認すること。
3. 国内／国際的な司法・説明責任のメカニズムに協力し、国内／国際的に委任された調査機関、ICC、ICJに保存・アーカイブした証拠へのアクセスを許可する。
4. 認定した市民社会組織、ジャーナリスト、学術研究者にAPIおよびデータセットへのアクセスを許可し、人権に関連する文書を検索・アーカイブし、プラットフォームの対応の有効性と影響を監査・評価すること。
5. 危機対応の実施、その効果、およびその影響（ないしその欠如）について、当該地域および国際的な市民社会団体に対して四半期ごとにブリーフィングを実施すること。これは同時に、学んだ教訓を議論し、将来への提言をまとめる機会とならなくてはならない。

Content governance declaration in times of crisis