以下の文章は「An Open Letter Against Apple’s Privacy-Invasive Content Scanning Technology」を翻訳したものである。
Appleへ
2021年8月5日、アップル社は「子どものための保護拡大（Expanded Protections for Children）」と称して、事実上すべてのデバイスに適用される新たな技術的措置を発表しました。児童搾取は深刻な問題であり、それに対処する努力はほぼ疑いなく善意からのものですが、アップルの提案は、すべてのアップル製品ユーザの基本的なプライバシー保護を損なう恐れのあるバックドアを導入するものです。
アップルが提案する技術は、ユーザのiPhone、iPad、Macに保存または共有された写真を継続的に監視することで機能します。一つは、iCloudストレージに一定数の不適切な写真が検出されると、当局に通報するというシステムです。もう一つは、機械学習アルゴリズムにヌードを含むと判断された写真がiMessageで送受信された場合、子どもの親に通知するシステムです。
いずれのチェックもユーザのデバイス上で行われるため、ユーザのプライバシーを保護するエンド・ツー・エンド暗号化を迂回する可能性があります。
アップル社の発表直後から、世界中の専門家が、アップルの対策によって、すべてのiPhoneが不適切なコンテンツを法執行機関に通報するために、iPhoneを経由するすべての写真やメッセージを継続的にスキャンするデバイスになってしまうと警鐘を鳴らしています。また、個人の所有するデバイスが、侵入的監視のための急進的なツールとなり、起こりうる悪用や監視範囲の不合理な拡大を防ぐための監督がほとんど行われないという前例を作ることにもなります。
電子フロンティア財団は、「アップルは、より幅広い悪用への扉を開いている」と指摘しています。
子どもが送受信する性的画像にのみ使用できるクライアントサイド・スキャンシステムの構築は不可能である。たとえそのようなシステム構築を目指す善意の努力であろうと、結果としてメッセンジャーの暗号化自体の大前提を損ね、より幅広い悪用への道を開いてしまうことになる。（中略）これはいずれそのようなシステムになってしまうということではない。すでに完全に構築されたシステムであり、外部からの圧力によって僅かな変更が加えられるのを待っている状態である。
民主主義と技術のためのセンター（CDT：Center for Democracy and Technology）は、「アップル社の変更が、実際には子どもたちやすべてのユーザに新たなリスクをもたらし、長年に渡って支持されてきたプライバシーおよびセキュリティプロトコルから大きく逸脱していることを深く懸念している」と述べています。
CDTのセキュリティ・監視プロジェクトのグレック・ノジム共同ディレクターは、「アップルは、業界標準であるエンド・ツー・エンド暗号化メッセージングシステムを、監視と検閲のためのインフラに置き換えようとしています。アップルはこのような変更を断念し、同社のデバイス、サービスが扱うデータの安全性と完全性に対するユーザの信頼を回復すべきです」と話す。
セキュリティとプライバシー研究の第一人者で、EPFL（スイス連邦工科大学ローザンヌ校）教授のカルメラ・トロンコソ博士は、「アップルが新たに導入する児童性虐待資料（CSAM）の検出器は、子どもの保護とプライバシーの名のもとに喧伝されているが、全体的な監視と管理への確固たる一歩である」と言います。
また、同じくセキュリティとプライバシー研究の第一人者で、メリーランド州ボルチモアのジョンズ・ホプキンス大学教授のマシュー・D・グリーン博士は、「昨日まで、私たちは自分の情報を自分以外の誰かに管理・審査されずにすむ未来に向かって歩んでいました。1990年代以降、私たちは初めてプライバシーを取り戻すことができたのです。そして今日、私たちは別の道を歩むことになりました」と述べ、次のような懸念を表明しています。
英国、米国、インド、中国からの圧力が強まっていくでしょう。その結果どうなってしまうのか、私は恐れています。なぜアップルは「こんなツールがあるよ」と世界に向けて発信したいのでしょうか。
オープン・プライバシー・リサーチ・ソサエティのエグゼクティブ・ディレクター、サラ・ジェイミー・ルイスは、次のように警告しています。
アップルがこれを導入したら、他のプロバイダに同じことが求められるようになるまでにどれくらいかかるでしょう？ 巨大プラットフォーム（walled-garden）が導入しないアプリを禁止するまではどれくらい？ 法律で規制されるまでは？ このデータベースが「テロリスト」のコンテンツに拡大されるのはどれくらいかかるでしょう？ 「有害だが適法」なコンテンツに拡大されるまでは？ 「国家単位の検閲」に拡大されるまでは？
セキュリティとプライバシー問題の研究者、ナディム・コーベイスィ博士も次のように警告しています。
アップル社はサウジアラビアでFacetime非搭載のiPhoneを販売しています。同国の規制で暗号化された通話が禁止されているためです。これはアップル社が国内圧力に屈した数多くの事例の一つに過ぎません。サウジアラビアの国内規制で、児童性虐待ではなく、君主制への批判や同性愛を検出するようメッセージのスキャンを命じられたらどうなるでしょうか？
電子フロンティア財団の声明では、上記の懸念を裏付けるように、アップル社の提案する技術が世界的な悪用につながる可能性を示すさらなる事例を紹介しています。
たとえば最近インドで可決された規則には、プラットフォームがメッセージの送信元を特定し、コンテンツを事前審査せよという危険な要件が含まれている。エチオピアでは、24時間以内の「誤報」コンテンツの削除を義務づける新法が、メッセージングサービスにも適用される可能性がある。他にもさまざまな国（多くの場合、権威主義体制の国）で同様の法律が制定されている。今回のアップルの変更により、エンド・ツー・エンドのメッセージングサービスで、こうした法律が求めるスクリーニング、削除、通報が可能になる。悪用の例など容易に想像がつく。同性愛を禁止する政府がLGBTQ+コンテンツを制限するために、あるいは権威主義的な政府が人気の風刺画や抗議ビラを検出させるために、対象を拡大するよう圧力をかけてくることは明らかだ。
さらに電子フロンティア財団は、こうしたミッションクリープ（終わりなき拡大）は、現実に起こっていると指摘しています。「本来は児童性虐待画像のハッシュ化のために開発された技術が、『テロリスト』コンテンツのデータベース作成に転用されている。このデータベースには企業も参加でき、テロコンテンツを禁止する目的でアクセスできる。データベースはテロ対抗のためのグローバルインターネットフォーラム（GIFCT：Global Internet Forum to Counter Terrorism）が管理しているが、市民社会からの再三の要請にもかからわず、外部監査が行われていないことが問題視されている」。
アップル社が提案するアプローチの根本的な設計上の欠陥は、専門家からも指摘されており、「アップルは、ユーザごとに異なるメディアフィンガープリントのデータセットを簡単に適用できる。あるユーザには児童虐待カテゴリを適用し、別のユーザにはもっと幅広いカテゴリを適用するかもしれない」と言われています。これにより、対象となるユーザに対して選択的なコンテンツ追跡が可能になるのです。
アップル社が子どもの保護対策として提案するタイプの技術は、監督や技術的制限が及ばない拡張可能なインフラに依存しています。専門家たちは、問題はプライバシーのみならず、説明責任の欠如、拡張のための技術的障害、エラーや誤検出の可能性についての分析や認識の欠如にあると繰り返し警告しています。
ハーバード・ロー・スクールのサイバーロー・クリニックのケンドラ・アルバート弁護士は、「このような『子どもの保護』機能によって、クィアの子どもたちが家から追い出されたり、殴られたり、もっとひどい目に遭わされることになる」と警告し、次のように述べています。
この機械学習アルゴリズムは（おそらく）移行期の写真にフラグを立てるでしょう。もしあなたが「女性用の乳首（female presenting nipples）」をお持ちなら、友だちに自分の写真を送れるといいですね。
我々の要求
これに署名する我々は、以下のことを要求する
- アップル社が提案するコンテンツ監視技術の展開を直ちに中止すること
- アップル社がエンド・ツー・エンド暗号化とユーザのプライバシーへのコミットメントを再確認する声明を発表すること
アップル社の現在の方針は、技術者、学者、政策提言者が何十年にもわたって取り組んできた、消費者向け電子機器やユースケースの大部分で強力なプライバシー保護を標準とすることへの取り組みを台無しにする恐れがあります。私たちは、アップル社がこの重要な成果を台無しにしないよう、同社の技術的展開を再考することを求めます。
An Open Letter Against Apple’s Privacy-Invasive Content Scanning Technology
