ディープフェイクは規制されるべきか？

Electronic Frontier Foundation

今月、ビデオ編集テクノロジーはマイルストーンに到達した。ディープフェイクと呼ばれる新たなテクノロジーは、ポルノ制作に利用されている。簡単なソフトウェアを使って、誰でも、実在の人物（たとえばセレブリティ）の顔を別人（たとえばポルノスター）の身体に違和感なくに繋ぎ、本人の同意がないままにポルノビデオを作成することができる。

すでにこの技術を利用して、ポルノ動画に有名ハリウッド女優の顔をはめ込んだビデオがインターネット上にアップロードされている。

このテクノロジーは（他のあらゆるテクノロジーと同様に）悪用可能であり、犯罪や不法行為にも利用されうる。しかし、テクノロジーそのものが違法なわけではない。また、すでに現在の法規制は、そうした悪意ある利用が引き起こす被害に対応している。

Motherboardのサマンサ・コールは12月、「deepfakes」を名乗るRedditユーザが、ポルノ女優の顔を別人の有名（非ポルノ）女優の顔に入れ替えたビデオを投稿しだしたと伝えている。コールによると、ビデオは「深層学習アルゴリズムの実践的知識を持った人物が、機械学習アルゴリズムと、ネット上にある映像素材、オープンソースコードを用いて作成した」ものだという。

それから1ヶ月後、オリジナルのRedditorが「deepfakes」と名付けたフェイススワップ（顔入れ替え）ポルノが「激増」したとコールは報じている。簡単に使いこなせるアプリケーションが公開され、技術スキルを持たないユーザにもディープフェイクを作り出せるようになったのだ。すぐさま、サブレディットにディープフェイクを売買するマーケットプレイスが登場し（まもなく削除された）、Twitter、Pornhub、Discord、Gfycatなどのプラットフォームにも拡散していった。各プラットフォームは、ディープフェイクが本人の同意を得ずに作成された可能性があるとして、動画を削除した。

このフェイススワップ技術が、本人の同意を得ないポルノの作成、出来事の改ざん、記録媒体としてのビデオの信頼性の毀損など、さまざまな方法で悪用しうることは容易に想像できる。

しかし、政治解説やパロディ、保護を必要とする人びとの匿名化、同意を得た上での新しいポルノなど、有益な使い道もある（その他考えうる用途についてはこちらの記事の末尾に記している）。

悪用されうるテクノロジーが新たに登場すると、それをテクノロジーを犯罪化したり、規制しようとする反射的な動きが見られる。しかしそうばれば、有益な用途が脅かされ、いたずらに憲法上の問題を引き起こすことになる。

幸運なことに、現在の法律は、ディープフェイクの被害者への救済を提供している。実際、我々の法的枠組みは、長年に渡ってこの種の問題に対処してきた。米国の法制度は、写真の改ざんや虚偽情報に起因する被害を手当しており、その原則は、ディープフェイクの問題にも適用されるはずである。

適用される法律

ディープフェイクが犯罪目的で使用された場合には、刑法が適用される。たとえば、ディープフェイクを利用して誰かに圧力をかけ、その削除や破棄の見返りに金銭を要求すれば強要罪が適用される。また、ディープフェイクがハラスメント（嫌がらせ）を目的とする場合にはハラスメント法が適用される。これらの犯罪に対処するために、新たにディープフェイクに特化した法律は不要である。

不法行為に関しては、おそらくFalse Light（誤認を生じさせる表現）がプライバシー侵害として不法行為に当たる。False Lightには一般に、写真の加工、演出、歪曲、また加工されていなくても例示を目的とした欺瞞的使用が含まれる。ディープフェイクは当然、このFalse Lightに該当するだろう。

False Light裁判で勝利するためには、原告（ディープフェイクの被害に遭った人物）が、被告（ディープフェイクをアップロードした人物）による原告の虚偽または誤解を招くものを公表し、原告の名誉の毀損や、一般人から見ても著しく不愉快と認められるほどの侮辱、原告の精神的苦痛・被害を引き起こしたことを証明する必要がある。殆どの場合、本人の同意を得ずにディープフェイクに登場させることは、False Lightがカバーする「極めて不愉快な」行為と認められるだろう。

最高裁はさらに、公益の問題が存在するケース（訳註：原告が公人であった場合）では、聴衆がその印象を真実であると信じる意図を証明することを原告に求めている。これは名誉毀損法における現実的悪意の要件として知られている。

False lightはおよそ3分の2の州の裁判所で認められている。False Lightと名誉毀損の区別は難しいかもしれないが、多くの裁判所がほぼ同じものとして両者を扱っている。これらの訴訟を扱う裁判所は、損失に注目する。名誉毀損であればその損害への補償、Flase Lightであれば対象が被った不愉快さへの補償となる。しかしもちろん、ディープフェイクが自らの評判を損ねる性質をもっている場合には、名誉毀損訴訟を起こすこともできる。

また、多くの状況で精神的苦痛の故意による賦課（IIED：Intentional Infliction of Emotional Distress）の不法行為を問うこともできるだろう。被告（ディープフェイクの作成者とアップローダー）が原告の深刻な精神的苦痛を引き起こすことを意図して極端かつ非道な行為を行い、その行為によって原告が実際に精神的苦痛を被ったことを原告が証明すれば、IIED訴訟に勝利することができる。

最高裁判所は、虚偽の記載の公表が極端かつ非道な行為であったとしても、それが公共の関心事や公人に関する記述である場合には、聴衆がその記述を真実であると信じる意図があることを証明するよう原告に求めている。これは名誉毀損法の現実的悪意の要件に類似しており、最高裁は公益に関連するすべての記載に、現実的悪意の要件を拡張している。

また、ディープフェイクが販売されたり、作成者が利益を得ていた場合には、肖像権侵害で訴えることも可能である。

最後に、顔を抽出したソース映像や顔を埋め込んだターゲット映像の著作権者が、著作権侵害を訴える可能性も考えられる。ただし、この場合はフェアユースを始めとする反論も可能である。

確かに、ディープフェイクは当人の同意とビデオの信頼性に関する問題を社会に投げかけている。しかしEFFは、既存の法律による法的救済がディープフェイクによる被害を手当しない理由はないものと考えている。

We Don’t Need New Laws for Faked Videos, We Already Have Them | Electronic Frontier Foundation