「性的に露骨」と称して検閲されるLGBTQ+コンテンツ

Electronic Frontier Foundation

児童性虐待画像（CSAM）対策のためにバックドアを開放するという先日のAppleの発表を受けて、プライバシーにもたらす影響を懸念するのは当然である。

いつものように、あるグループは別のグループよりも偏って大きな被害を受けることになる。Appleの計画する機能の1つは、ファミリープランに加入している未成年のiPhoneユーザが、Appleの機械学習による分類で「性的に露骨」と定義された写真をiMessageで送受信しようとすると、その旨を通知するというものである。13歳未満の子どもが送受信を選択した場合には、そのことが親に通知され、親が後に確認できるように画像が携帯電話のペアレンタルコントロールセクションに保存される。13～17歳の子どもにも警告は表示されるが、親への通知はない。

この機能は子どもたちを虐待から守ることを目的としているが、Appleはこの機能が虐待を引き起こす可能性を考慮していないようだ。この新機能は、親が善意の保護者であることを前提としているが、多くの子どもがそうした環境にあるわけではない。親が虐待者かもしれないし、子どもよりも伝統的・制限的な考えを優先する親かもしれない。子どもたちを虐待から守りたいという気持ちは理解できるが、機械学習による分類で性的なものとそうでないものを判断することは、子どもたちが自分のセクシュアリティについて情報を求めることを恥じたり、思いとどまらせることにもなりうる。

Appleの製品FAQによると、この機能はデバイス上の機械学習を用いて、どのコンテンツが性的に露骨であるかを判断する。その機械学習はプロプライエタリであり、一般市民はもとより、市民社会によるレビューすら受けていない。

この機能の問題点は、性的でないコンテンツ、とりわけLGBTQ+コンテンツが、機械学習アルゴリズム（および人間のモデレーター）によって「性的に露骨」と分類されてきた長い歴史があることだ。ケンドラ・アルバートとアフサネ・リゴーがWiredに寄稿した記事で指摘するように、「性的に露骨な表現を制限しようとすると、（偶然にせよ意図的にせよ）LGBTQの人々を著しく害する傾向がある」のだ。

フィルタリングソフト企業のNetsweeperから、Google News、Tumblr、YouTube、PayPalに至るまで、テクノロジー企業は、ポルノと芸術、教育、コミュニティ志向のコンテンツを区別することに関しては、あまり良い実績を出せていない。学者のアリ・エズラ・ウォルドマンは先日発表した論文のなかで「『性行為（sexual activity）』のコンテンツ・モデレーションは、『治安紊乱行為』、『浮浪』、『淫行』などの曖昧な道徳法規が公共空間での同性愛者の振る舞いに不均衡に適応されていた20世紀なかばの抑圧的な反不道徳キャンペーン（anti-vice campaigns）に類似した社会的圧力の集まりである」と指摘する。

それに加えて、Apple自身も「わいせつ」を過剰に定義してきた歴史を持っている。Apple TVでは「アダルト」すぎるコンテンツを制限し、App Storeでは性的なコンテンツを禁止してきた。また、中国、サウジアラビア、アラブ首長国連邦、トルコなどの特定の市場で、ゲイ向けの出会い系アプリを禁止してきた。

これまでのところ、Appleはこの新機能を「性的に露骨な」コンテンツに限定するとしているが、上述した例が示すように、その範囲は広く、明確なパラメータなしには重要なコンテンツも容易に網にかかってしまう。

現在、Appleはこの機能を米国内でのみ展開する意向を示しているが、それは不幸中の幸いでもある。「性的に露骨」なものとそうでないものの考え方は、国や文化によって大きく隔たりがあるのだから。

だが米国であっても、誰もが満足する性的に露骨な写真を識別するアルゴリズムは存在しない。乳がん啓発のための画像は性的に露骨なのか。少なくともFacebookは過去にそう判断した。上半身の手術を受けたトランス男性がシャツを脱いだ写真は性的に露骨なのか。Instagramがどう判断するかは定かではない。性的虐待や身体的虐待を記録した写真は性的に露骨なのか。こうしたケースでは、答えははっきりしない。Appleがこうした議論に土足で踏み込み、そうした画像を送信・受信するかもしれない子どもたちに余計なことを吹き込むようになれば、さらなる不満と混乱ばかりが生み出されることになるだろう。

How LGBTQ+ Content is Censored Under the Guise of “Sexually Explicit” | Electronic Frontier Foundation