ガザのデジタル・アパルトヘイト：ビッグテックは人権侵害に加担する技術の実態を公表せよ

Electronic Frontier Foundation

本稿はシリーズ記事の第2部である。不当なコンテンツモデレーションに関する第1部はこちら。

10月7日のハマスによる凄惨な攻撃に対抗するイスラエル軍の軍事行動が始まって以来、GoogleやAmazonといった米国のビッグテック企業は、イスラエル軍に提供しているサービスの内容や関係性について詳細を明かすよう迫られている。

我々もこの要求に賛同する。透明性が確保されない限り、これらの企業が国連の基準や自ら掲げた人権基準を守っているかどうか、一般市民には判断のしようがない。この紛争では戦争犯罪の疑いが持ち上がり、国際法上、違法とされる占領下で暮らす民間人や難民に対する大規模かつ継続的な監視が行われている。このような監視には相当な技術支援が必要であり、プラットフォームを提供する企業の継続的な関与なしには成り立たちそうにない。

Googleは人権に関する声明で、「新製品の立ち上げから世界展開まで、あらゆる活動において国際的に認められた人権基準に則る」と宣言している。さらに、「世界人権宣言とその実施条約に規定された権利を尊重し、国連ビジネスと人権に関する指導原則（UNGPs）およびグローバル・ネットワーク・イニシアチブ原則（GNI原則）を支持する」とも述べている。AI技術に関しては、さらに一歩踏み込んで、「人身被害を引き起こす可能性が高い技術、監視目的の情報収集や利用、人権侵害に使われる可能性のある技術、あるいは全体として害をもたらす可能性が高い場合には、AIの設計や展開を行わない」と約束している。

Amazonも「国連ビジネスと人権に関する指導原則に導かれ」、「人権へのアプローチは国際基準に基づいている」と明言する。「国際労働機関（ILO）の中核的条約、仕事における基本的原則及び権利に関するILO宣言、そして国連世界人権宣言を尊重し支持する」という姿勢も示している。

今こそ、GoogleとAmazonはガザでの自社技術の使用実態について真実を語らなくてはならない。そうすれば、彼らの人権へのコミットメントが本物なのか、それとも単なる空手形だったのか、誰の目にも明らかになるだろう。

GoogleとAmazonによる人権侵害への加担の懸念

イスラエル政府は長年、米国企業から監視技術を調達してきた。最近では、8月には+972とLocal Callの調査報道で、イスラエル軍がガザのパレスチナ人に対する大規模監視で得たデータを、その膨大さゆえに軍のサーバーだけでは対応できず、Amazon Web Services（AWS）のクラウドに保存していたことが明らかになった。同記事では、イスラエル軍のコンピューティング・情報システムセンター（軍のデータ処理を担当）の司令官が、軍と産業界の関係者に向けた演説で、イスラエル軍が民間企業のクラウドストレージとAIサービスを利用していることを認め、そのプレゼンテーションにはAWS、Google Cloud、Microsoft Azureのロゴが表示されていたと報じられている。

GoogleとAmazonがイスラエル軍に民間技術サービスを提供するのも、その技術が人権侵害に使われているのではないかという疑念が持ち上がったのも、今回が初めてではない。2021年、GoogleとAmazon Web Servicesは、イスラエル国内にクラウドサービスと機械学習ツールを提供するProject Nimbusと呼ばれる12億ドル規模の共同契約をイスラエル軍と締結した。この提携に関する公式発表で、イスラエル財務省は「政府、防衛機関、その他に包括的なクラウドソリューションを提供する」と述べている。この契約下では、GoogleとAmazonは軍を含むイスラエル政府機関によるサービス利用を拒否できないと報道されている。

Nimbusの詳細は不明な点が多い。Googleは公式に、このプロジェクトは軍事目的を意図していないと述べているが、イスラエル軍は公然とNimbusが戦争遂行を支援していると認めている。報道によれば、このプロジェクトではGoogleがイスラエルにセキュアなGoogle Cloudインスタンスを設置するという。2022年のGoogle内部文書によると、GoogleのCloudサービスには対象追跡、AI搭載の顔認識・検出、自動画像分類が含まれているという。Googleは2024年3月、Nimbusプラットフォームを中心とした新たなコンサルティング契約をイスラエル国防省と結んでおり、2021年以降の情勢変化に巻き込まれただけだと言い逃れすることはできない。

Project Nimbusと並行して、匿名のイスラエル当局者は、イスラエル軍がガザ地区全域で顔認識による網羅的な監視を展開していると明かしている。これには顔認識・クラスタリング機能を持つ2つのツールが使用されているという。1つは「顔認識インテリジェンス企業」Corsightのもので、もう1つはGoogle Photosを通じて提供されるプラットフォームに組み込まれたものである。

求められる説明責任

断片的な情報からでも、深刻な懸念が浮かび上がってくる。企業には自社の関与の実態を明らかにする責任がある。

例えば、Google Photosは一般向けサービスであり、Project Nimbusの一部は汎用のクラウドコンピューティングプラットフォームである。EFFは長年、汎用技術の悪用だけを理由に責任を問うべきではないと主張してきた。しかし、Ciscoが中国の金盾の一部として法輪功信者を特定するモジュールを開発した事例（現在、米国第9巡回区控訴裁判所で係争中）のように、企業は人権侵害を助長する特定のサービスを意図的に提供すべきではない。また、自社の技術がどのように使用されているかについて、意図的に目を背けるべきでもない。

つまり、自社の技術がガザやその他の地域で人権侵害を助長するために使用されているのであれば、これらのIT企業は、国際基準に基づいた自社の人権およびAI原則をどのように遵守しているのか、公に示す必要がある。

我々、そして世界中の人々が、GoogleとAmazonの説明を待っている。

Digital Apartheid in Gaza: Big Tech Must Reveal Their Roles in Tech Used in Human Rights Abuses | Electronic Frontier Foundation