以下の文章は、コリイ・ドクトロウの「Google falsely told the police that a father was a molesting his son」という記事を翻訳したものである。本翻訳記事のタイトルは、翻訳者が独自に付したものであり、原題を翻訳すれば「Google、『父親が息子を性的虐待している』と警察に誤報告」である。
マークの幼い子供は、ペニスが腫れ上がって痛がっていた。マークの妻が主治医に連絡すると、看護師はコロナ禍なので医師は直接患者を診察していない、子供のペニスの写真を送ってほしいと依頼された。マークが撮影すると、その写真はGoogle Photoのアカウントに同期され、Googleのスキャンツールが自動的に子供のペニスの写真を検出し、マークが息子に性的虐待をしているとSFPDに通報した。
マークと妻は息子のペニスの写真を何枚もとっていて、その中にはマークの手が写り込んでいる物もあった。子供は細菌感染していたが、遠隔診療で処方された抗生物質により、すぐに症状は改善した。
https://www.nytimes.com/2022/08/21/technology/google-surveillance-toddler-photo.html
Googleはマークの説明に耳を傾けなかった。それどころか、アカウントを抹消し、10年分以上の個人・ビジネスのメール、クラウドファイル、カレンダーを奪った。さらに、Google Photoに同期してきた家族の写真もすべて失われた(彼の子供が誕生して依頼、撮影してきた写真すべてだ)。マークはGoogle Fi(訳注:Googleが提供するMVNOサービス)のユーザでもあったせいで、電話番号すら失った。Google Authenticatorへのアクセスも奪われたため、別のオンラインアカウントにサインインして、Google以外のメールアドレスに変更することすらできなくなった。
マークはSFPDから封筒を受け取った。その内容はGoogleが警察に連絡し、マークが児童性的虐待資料(CSAM)を作成したと告発し、位置情報や検索履歴、写真な動画を含むありとあらゆるマークのファイルやデータへのフルアクセスを密かに提供していたことを知らせるものだった。
ところで、どうして警察は“郵送”でマークに知らせてきたのか。それはGoogleがマークの電話番号を停止したため、警察が彼と連絡を取れなかったためだ。
サンフランシスコ警察の名誉ために言っておくと、彼らは経緯を理解し、マークは児童虐待をしていないと判断している。だが忌まわしいことに、Googleはマークのすべてのデータを人質に取り続けている。マーク個人のつながり、あるいはビジネス上の繋がりのある人たちの連絡先を含むアドレス帳へのアクセスを拒絶し続けているのだ。
Googleは、彼のファイルから別の「問題のある」写真を発見したため、彼のアカウントを復旧しないと言う。「問題のある」写真とは、「服を着ていない女性とベッドに横たわる幼い子供」の写真らしい。マークはどの写真かはっきりとは分からないが(彼はもう自分の写真にはアクセスできない)、ある朝、息子と妻が一緒にベッドで寝ているところを撮影した親密な写真だろうと推測している(「パジャマを着たまま寝ていれば、こんなことにはならなかった」)。
記事を書いたカシミール・ヒルは、もう1つの類似の事件についても伝えている。ヒューストンのカシオという父親も、医師から診断のための子供の性器の写真を送るよう頼まれていた。カシオもマークと同様に警察から潔白を証明されたが、マークと同様にGoogleアカウントとそれに関連する全てのサービスからロックアウトされた。
記事にはEFFの同僚、ジョン・カラスも登場する。彼は、家族のプライベートな写真は「私的領域」であるべきで、アルゴリズムによる常時スキャンや人間のモデレータによる審査の対象になるべきではないとGoogleを批判する。Googleは、写真に関連して「積極的なアクション(affirmative action)」をとった場合にのみ写真をスキャンすると主張しているが、これにはAndroid端末のデフォルト動作であるGoogle Photoへの自動アップロードも含まれている。
またこの記事には、サイバー法の専門家で、コンテンツモデレーションの専門家でもあるケイト・クロニックの意見も引用されている。クロニックは、(このような監視は)「法執行機関への通報という結果ももたらされるという点で二重の危険性をはらんでいる」として、警察が慎重さを欠いていたなら、身柄を拘束されていた可能性すらあったことを指摘している。
クロニックは、Googleが自動フィルターの間違いを処理する「堅牢なプロセス」を用意していないと批判する。ヒルは記事の中で、GoogleがCSAMに自動的にフラグを立てる(検出する)ための「AI」ツールについて説明している。自動フィルタリングツールにはよくあることだが、こうしたフラグはナノ(10億分の1)秒単位で行われる一方で、その判断を見直すプロセスは数ヶ月から数年、あるいは永遠にかかってしまう。
昨夏、私はGoogleを始めとするビッグテック企業を、「帝国のごとき支配的な公共事業」と呼んだ。これら企業は「世界の情報を整理する」のようなミッションを掲げつつ、我々に欠かせない存在になるための戦略を意図的に推し進めてきた。そしてそのために、我々のデジタル生活すべてを補足するようデザインした製品を垂直に積み上げていったのである。
https://www.eff.org/deeplinks/2021/08/utilities-governed-empires (邦訳記事)
つまり、ビッグテックは電気や水道のように、あなたの生活に不可欠な公共事業になることを目指し、そして成功したのだ。だが、彼らはまるで自分たちが単なる一企業であるかのように振る舞い続け、その不可欠さにもかかわらず、紛争(たとえば、異議申立の機会を与えることなくサービスを一方的にキャンセルするなど)は当事者間の問題に過ぎないという態度を取り続けている。
ならば、本当の公共事業と同様に扱うべきではないかと思われるかもしれないが、それは間違った衝動だと私は思う。たとえば、Facebookの問題は、ザックが30億人のデジタルライフを支配する自称独裁者にふさわしくないから引き起こされているわけではない。問題は、誰であろうとそのような仕事は任せられないということだ。我々は、そのような仕事をなくさねばならないのだ。
だからこそ、私は相互運用性に惹かれる――たとえば政府による相互運用性の義務づけと、リバースエンジニアリング、スクレイピング、ボットなどの相互運用者の自助努力による保護という組み合わせのような。
https://www.eff.org/wp/interoperability-and-privacy
それこそが、我々の生活に不可欠なモノへの力を複数化する道である。国家権力によってオンラインプラットフォームの行為に制限を設け(たとえば私訴権を与える強力なプライバシー法を可決することで)、ユーザがどのような選択をするにしても、オンライン企業に搾取されないようにする。そして、国家権力によって相互運用性を保護し、オンラインホストの裁量を気に入らないユーザが、データや社会的つながりを犠牲にすることなく、簡単に離脱できるようにする。
https://www.eff.org/deeplinks/2021/08/facebooks-secret-war-switching-costs (邦訳記事)
米国政府(警察や諜報部門を含む)に我々のデジタル生活を、さらには米国以外の人びとのデジタル生活のあり方を委ねてしまうのではなく、我々はもっと狭い範囲の仕事をなすよう政府に求めることができる。企業が我々に危害を加えるのを防ぐよう求め、企業が我々のデータや社会的つながりを人質にとることを禁止するよう求めれば良い。そうすれば、数年後、たとえロン・デサンティスが政権の座につこうとも、どの会話が合法であるかを決めてもらわずに済むのだ。
https://www.eff.org/deeplinks/2021/07/right-or-left-you-should-be-worried-about-big-tech-censorship (邦訳記事)
そして、我々は自分たち自身でコミュニティを運営し、コミュニティが管理するオンライン空間やサービスを作り上げていくことができるのである。
(Image: Cryteria, CC BY 3.0, modified)
Author: Cory Doctorow / Pluralistic (CC BY 4.0)
Publication Date: August 12, 2022
Translation: heatwave_p2p
Material of Header image: Bernard Hermant / Mitchell Luo (modified)