それを作れば彼らはやってくる：Appleが開く世界的な監視・検閲へのバックドア

Electronic Frontier Foundation

iMessageで送受信される画像をスキャンするというAppleの新たなプログラムは、これまで暗号化メッセージのプライバシーとセキュリティを強く支持してきた同社の方針転換となる。このプログラムの適用範囲は現時点では米国内に限定されているが、クライアントサイドスキャン可能なエンド・ツー・エンド暗号化という歪んだ理解をもたらすことになる。Apple社は児童搾取・虐待といった問題の解決を目的として、極めて容易に監視・検閲に転用可能なインフラを構築する。Appleは（訳注：子どもの保護以外の）幅広い要求に応じることはしないと反論するが、仕組みそのものがその反論を否定しているのである。

これまで世界中の国々が、暗号化されたメッセージへのアクセスとコントロールを要求してきた。復号メッセージへの（訳注：都合のいい）アクセスは強力な暗号化とは相容れないという反論に直面しても、テクノロジー企業に「オタクがもっと頑張ればギジツ的にできるはずだ（nead harder!）」と言い続けてきた。現在、Appleの子どもの安全のためのメッセージ・スキャンプログラムは、米国でのみ展開されることになっている。

米国政府はこれまで幾度も暗号化された通信へのアクセスを要求し、令状によるデータの押収を容易にしたり、データを“自発的に”開示するよう企業に圧力をかけてきた。しかし、米国が令状なしにコンテンツの選別と報告を義務づける法律を制定しようとしても、憲法上の重大な問題に直面することは間違いない。たとえ民間が行うとしても、政府が命じた捜索は憲法修正第4条の保護の対象となる。つまり、嫌疑のない大量監視の目的で発行される「令状」は、違憲とされる一般令状なのである。第9巡回区控訴裁判所は、「捜索令状は……その文言が非常に大まかかつ拡張的で、事実上、万人が捜査対象となりうる場合には、修正第4条の基本原則に根本的に反するものである」と説明している。この新たなプログラムにより、Appleは暗号化を弱体化させようとする米国の試みに屈服することになった。もちろん、度を越した行き過ぎは憲法によって抑止される。だが、米国憲法上の保護を米国以外の国に期待することはできない。

Appleはグローバル企業であり、世界中でその携帯電話やコンピュータが利用されている。それゆえ多数の政府からの圧力にさらされている。Appleは、政府による「ユーザ・プライバシーを低下させるような変更を構築・実装の義務づけ」は拒否すると約束してきた。Appleが「応じない」姿勢を示すのは良いことだが、それは「できない」ほど強力な防御策ではない。さらにこの変更を実施したAppleがプライバシーを守るためには、世界中のあらゆる議会や裁判所で戦い、勝利し続けなくてはならなくなる。Appleが約束を守るということは、iMessageのスキャンプログラムを米国以外に拡大し、別の種類のコンテンツをスキャンし、親子以外の関係性を報告せよという圧力に抵抗し続けることを意味するのだ。

メッセージの暗号化は、反体制派の組織化やコミュニケーションの最後の手段となっている。そのメッセージへのアクセスや管理を、権威主義国家が企業に要求するのは必然である。シチズン・ラボの調査によると、現在、暗号化されていない中国のWeChatでは、すでにユーザが共有する画像やファイルを監視し、検閲アルゴリズムの学習に利用している。「WeChatユーザが別のWeChatユーザにメッセージを送信すると、Tencent（WeChatの親会社）が管理するサーバを通過し、メッセージが受信者に送信される前にブラックリストに登録されたキーワードが含まれているかが検出される」。スタンフォード・インターネット観測所のリアナ・ペッパーコーンによると、この種の技術は「もともとCSAM（児童性虐待資料）のためだけに作られたクラアントサイド・スキャンシステムが、検閲や政治的迫害のためにどのように悪用されていくか」を示すロードマップであるという。世界最大の市場を持つ中国では、応じないという選択がほぼ不可能なことをAppleはよく理解しているはずである。他の国でも、現地従業員の逮捕などによってテクノロジー企業に強い圧力をかけてくることも珍しくはない。

とはいえ、暗号化データへのアクセスを求める強力な圧力は、少なくとも最初のうちは法の支配を尊重する民主主義国家からもたらされることが多い。そのような国で企業が妥協し、暗号化を弱める変更が行われれば、民主主義や人権の保障が不十分な国々もそれに追随していくことになる。たとえ同じような法律用語を使っていても、国によって公序良俗や国家安全保障、わいせつ、政治的言論など禁止コンテンツの構成要素はしばしば異なる。これは実に危険な状態だ。こうした国は、人権保護が不十分であるにも関わらず、我々も同じだと主張する。我々も主権国家であり、我々の公序良俗上の必要性も同様に緊急性があるのだというだろう。そして、Appleがいかなる国民国家に対しても当該国の法令に基づいて（訳注：暗号化データへの）アクセスを提供するのであれば、他の国にも少なくとも同じ条件でアクセスを提供しなければならない、と主張するのは明らかだ。

メッセージのスキャンを要求する「ファイブ・アイズ」諸国

2018年、カナダ、ニュージーランド、オーストラリア、英国、米国の情報機関の連合体である「ファイブ・アイズ」は、企業が暗号化されたメッセージへのアクセスを自発的に提供しなければ、「合法的なアクセス方法を確立するために、技術、執行、立法、その他の手段を追求する」との警告を発した。近年、ファイブ・アイズは正当化の理由をテロからCSAMの阻止に軸足を移しているが、暗号化データへのアクセスを求めていることに変わりはない。テロ・犯罪捜査支援のための変更が加えられなければ、ファイブ・アイズが満足することはない。

こうしたファイブ・アイズの圧力を受けて、英国の調査権限法（IPA）は、国務大臣に「技術的能力通知」の発行を認め、通信事業者に「傍受令状、機器干渉令状、通信データ取得令状・許可を有効にするための支援を提供する」技術的能力を義務づけることを可能にした。我々は、IPAを審議していた英議会に対し、「企業が機器干渉令状の執行を容易にするためにアップデートを強制され、そのことを顧客に通知しないよう命じられる可能性がある」と警告した。

IPAでは、国務大臣は「通知を遵守するための技術的実現可能性」を考慮しなければならないとされている。しかし、Appleの提案する変更を実現するインフラは、追加の監視が技術的に不可能だと言い切ることを難しくする。英国が現在のiMessageスキャンプログラムを拡張し、より広範囲にコンテンツを監視し、より広範囲に報告するアップデートを矯正するのではないかと我々は懸念している。iMessageの「コミュニケーション・セーフティー」は完全にApple独自の機能であるため、Appleが何を報告対象とするかの基準を容易に変更できる。さらに、iPhotoに導入されるハッシュ照合プログラムをメッセージの事前審査にも適用するよう命じられるかもしれない。同様に、どのアカウントがスキャンの対象となるか、どうなれば報告されるかといった基準が、Appleのコントロール下にある。

オーストラリアでも、同様の支援・アクセス法（Assistance and Access Act）が成立している。この法律は、暗号化を弱める可能性をはらんだ技術的支援・能力の提供を義務づけている。同法には複数のセーフガードが含まれているものの、EFFを始めとする市民社会団体、（驚くなかれ）Appleを含むテクノロジー企業、業界団体の連合体が、セーフガードが不十分であると訴えた。

実際、Appleは豪州政府に提出した資料で、「政府がソフトウェアや機器のインストール、テスト、消費者の機器へのアクセス支援、ソースコードの提出、電子的保護の除去、機能変更、サービスの代替などをプロバイダに強制する可能性がある」と警告している。この法律がAppleのスキャンプログラムの範囲を強制的に拡張しようとする試みにも用いられる可能性があることを、同社が覚えていればよいのだが。

カナダでは復号テキストへのアクセスに関する明示的要件は確立していないが、カナダ政府は各種オンラインプラットフォームへのフィルタリング義務化を積極的に推し進めており、プライベートメッセージングアプリもその対象に含まれる可能性も懸念される。

検閲体制が整い、準備万端に

ファイブ・アイズが求めているのは監視能力である。だが、インドとインドネシアはすでにコンテンツ検閲への道を歩み出している。今年はじめに施行されたインド政府の「仲介者ガイドライン及びデジタルメディア倫理コード（以下「2021年規則」）は、コンテンツの事前審査という危険な義務をプラットフォームに課している。規則4（4）では、コンテンツのフィルタリングを義務づけていて、プロバイダに規則で禁止された「情報を積極的に特定する」自動化ツールといった仕組みなど「技術に基づく手段を実装するよう務める」ことを求めている。

3名の国連特別報告者が2021年規則を批判すると、インド政府は反論。子どもたちの現実的な危機を強調する一方、極めて広範囲に及ぶスキャンや検閲の義務づけについて触れることはなかった。2021年規則では、コンテンツ・テイクダウン（削除）規定を積極的かつ自動的に履行し、インド法で禁止されたコンテンツを積極的にブロックすることを義務づけている。インド法には、「インドの主権と一体性、国家安全保障、諸外国との友好関係、公序良俗」を守る条項が広く含まれており、こうした（訳注：曖昧な）表現が表現の自由や政治的反対意見に危機的状況をもたらすことは想像に難くない。実際、インドの非合法活動防止法が、集会の主催やソーシャルメディアへの政治的投稿を行った学者や作家、詩人を逮捕する口実に用いられたとされており、規則の危険性を際立たせている。

インドが、Appleのスキャンプログラムを法令遵守に向けた偉大な一歩だと称賛し、2021年規則の義務を履行するためにさらなる調整が必要だと声を上げても不思議ではない。もちろん、Appleはそうした拡張に抵抗することを約束している。Whatsappがそうしたように、法定で2021年規則は撤廃されるべきだと主張したり、同社が2021年規則の規制対象であるソーシャルメディアの仲介者にの定義には該当しないと主張するかもしれない。だがインドの規則は、政府の要請と法的裏づけの双方が、暗号化コンテンツの事前スクリーニングに仕向けているのである。Appleの変更は、このディストピアへの道を舗装しているのだ。

残念なことに、こうした傾向は更に加速している。インドネシアでも大臣規則MR5が採択され、サービスプロバイダ（「インスタントメッセージング」プロバイダも含む）に対し、システムに「禁止された［情報］が含まれていないこと、および（中略）禁止された［情報］の普及を促進しないこと」を「保証」するよう義務付づけている。MR5で禁止されている情報とは、インドネシアの法律や規則の条項に違反するもの、または「地域社会の不安」や「公序良俗の乱れ」を引き起こすものと定義されている。またMR5は、システム内に禁止コンテンツがないことを確認できない場合に、システムの一般ブロッキングなど過剰な制裁を課している。インドネシアでは、iMessageのスキャン機能をMR5規則を遵守するためのツールと捉え、同国でより広範囲かつ侵入的なバージョンを採用するようAppleに圧力をかけてくるかもしれない。

高まり続ける圧力

Appleのプログラムをより多くの国、より多様なコンテンツに拡大するよう求める圧力は、今後さらに高まっていくことになるだろう。2020年秋に欧州委員会から流出した一連の文書から、今年中に欧州議会に反暗号化法の提出の動きがあることが判明している。幸いなことに、EUにはバックストップがあり、電子商取引指令（2000/31/EC）第15条には、EU加盟国はユーザが送信または保存する情報を監視する一般義務を課すことはできないと記載されている。実際、欧州連合司法裁判所（CJEU）は、ユーザの違法行為を検知・防止するために、仲介者に一般的な方法でサービスを監視する義務を課すことはできないと明確に述べている。このような義務は、公平性や比例性と相容れないものである。にもかかわらず、Politicoが公開したリーク文書によると、欧州委員会は関連するオンラインプロバイダによるCSAMの検出を義務化するための行動計画（2021年12月を予定）を約束しており、その解決策としてクライアントスキャンを挙げている。

政府の政策担当者は、企業にもっとオタク（nerd）として必死にやれと求めるとともに、言葉を巧みに捻じ曲げることにも熱心なようだ。暗号化されていない通信へのアクセスが彼らの最終目標なのだから、狭義のエンド・ツー・エンド暗号化という形を残しつつ目的が達成できるのであれば、彼らにとってもそれに越したことはない。

Appleが構築する狭義のバックドアの拡張に必要なのは、機械学習のパラメータを拡張して別のコンテンツを探索したり、iPhotoのハッシュ照合をiMessageに採用したり、設定フラグを微調整して子どもたちだけでなく誰のアカウントでもスキャンできるようにすることだけである。Appleは完璧なシステムを構築した上で、外部からの圧力によって変更が加えられるのを待っている状態なのだ。中国を始めとする国々は、自国の法律が禁止する（他方で国際人権法によって保護されている）メッセージを識別するためのハッシュやコンテンツ分類器をすでに導入している。同性愛を禁止する政府が、LGBTQ+コンテンツを制限するよう訓練された分類器を要求してくる可能性は当然考えられる。また、権威主義国家が、人気の風刺画や抗議ビラを判別するための分類器を要求することもあるかもしれない。

Appleがそれを作れば、彼らはやってくる。Appleの善意によって、セキュリティの義務的脆弱化の道が世界中で開かれ、善意であれば個人の生活やプライベートなコミュニケーションのスキャンが容認されるという主張を可能にし、強化しているのだ。我々はAppleに再考を促し、2019年のCESカンファレンスでAppleが巨大ビルボードに掲げたキャッチフレーズに立ち返るよう求めたい。

“What happens on your iPhone, stays on your iPhone”
（iPhoneで起きたことは、iPhoneにとどまる）