ドキュメンタリー界、生成AIの新たな倫理指針を発表――ニュース放送局もAIポリシーの明確化を

Archival Producers Alliance（APA）が打ち出した生成AIガイドラインは、視聴者への透明性を最優先に掲げている。

昨年、レイチェル・アンテルは新作ドキュメンタリーに取り組んでいた。アカデミー賞ノミネート作『Crip Camp』やCNN Films作品『Chowchilla』など、数々の実績を持つアーカイブプロデューサーだ。この作品では、歴史的調査のためのアーカイブ写真の調達を任されていた。ChatGPTの登場からわずか数か月後のことで、アンテルは制作パートナーと冗談半分に、いつかAIが我々の仕事を奪うんじゃないか、と話していた。

「翌日、監督たちがAIで生成した画像を持ってきたんです。まるで本物のアーカイブ写真みたいでした」とアンテルは振り返る。中には写真技術すら存在しなかった時代の画像まであった。

「これを本物のアーカイブ写真と一緒に使うつもりですか？ どう説明するんですか？」と監督に尋ねた。監督の返事は「何も考えてない。未開の地だからね」。

これはアンテルにとって衝撃的な出来事だった。生成AIがすでにドキュメンタリーの世界に足を踏み入れていたのだ。彼女の仕事の生命線であるアーカイブ資料と、すぐにも絡み合いそうな予感がした。

数か月後、アンテルは制作パートナーのジェニファー・ペトルチェリ、ドキュメンタリー製作者のステファニー・ジェンキンスと共にArchival Producers Alliance（APA）を設立した。目的は、ドキュメンタリー製作におけるAIツールの潜在的リスクに警鐘を鳴らすことだった。秋までに100人以上の賛同者を集め、業界に自主規制を求める公開書簡をThe Hollywood Reporterに発表した。書簡では、制作費削減のためにAI生成の新聞記事や偽の「歴史的」画像の使用を強いられたメンバーがいたことも明らかにした。

そして今日、約1年に及ぶ調査、ワークショップ、賛同者集めを経て、APAはCamden International Film Festivalで新たな生成AIガイドラインを発表した。このガイドラインは、アーカイブプロデューサーだけでなく、映画製作者、スタジオ、放送局、配信サービスなど、業界全体に向けた倫理指針を示している。さらに、コンテンツラベリングやアセット管理など、製作者向けの具体的な推奨事項も盛り込んだ。

「世間では『生成AIが全てを破壊し、我々は失業する』といった過激な議論が飛び交っていますが、そのような主張ではなく、キューシートのような具体的な事項にまで踏み込んだガイドラインを作りました」と、PBSのドキュメンタリーシリーズやNew York TimesのOp-Docsでアーカイブプロデューサーを務めたジェンキンスは語る。「私たちはそのようなセンセーショナリズムを好みません」

APAは生成AIの全面的な排除を求めているわけではない。むしろ、AIを使用する上での倫理について、教育、意図的な取り組み、対話を促進しようとしている。「私たちは誤情報ビジネスと闘っています。この表現形式を守りたいのです」とジェンキンスは強調する。「誰かを非難することによってではなく、この混沌とした世界で人々に実用的なツールを提供することで、それを実現しようとしているのです」

発表時点で、ドキュメンタリー製作者連盟（DPA）、カナダ映画監督協会、国際ドキュメンタリー協会（IDA）を含む、多数の著名なドキュメンタリー団体がこのガイドラインを支持している。ケン・バーンズ、ロリー・ケネディ、マイケル・ムーアといった50人以上の映画製作者個人からも賛同を得た。さらに、APAはジョナサン・ローガン・ファミリー財団から助成金を受け、来年も活動を継続することを発表した。

「このガイドラインの核心は透明性です。視聴者は、目にしているものが本物の映像なのか、それともAIが作り出したものなのかを理解する権利があります」とAPAの共同ディレクター、ペトルチェリは語る。

この1年、印刷メディアやデジタルメディアの世界では、AI生成テキストの公開をめぐって激しい論争が巻き起こった。Sports IllustratedやCNETのスキャンダルから、小規模な地方紙の問題まで、様々な事例が報じられた。これを受けて、メディア各社にAI編集ポリシーの公表を求める声が高まり、多くの社が使用ガイドラインを公開するに至った。

一方、放送ジャーナリズムの世界では、まだそこまでの騒ぎには至っていないようだ。少なくとも、主要ネットワークがAI使用に関する公約を発表したり、内部規定を視聴者に分かりやすく説明したりするほどの圧力はかかっていない。しかし、APAメンバーの経験が示すように、放送ジャーナリズムも同じ倫理的ジレンマから無縁ではない。

AIによる「再現」は従来の再現映像とは違う

生成AIの使用をめぐる議論は、ドキュメンタリーの倫理に関する過去の論争を彷彿とさせる。特に、再現映像の使用は、ドキュメンタリー純粋主義者から長年にわたって批判されてきた。たとえば、『The Thin Blue Line』は再現映像を使用しているとして1988年のアカデミー賞レースから除外されている。（この夏、私は同作の監督で再現映像の先駆者でもあるエロール・モリスと対談し、これらの類似点について議論した。）

APAは再現映像とAI生成を延長線上に位置づけているが、ガイドラインでは重要な違いをいくつか指摘している。

「再現映像には、撮影する人、衣装を担当する人、静物画のためにテーブルにフルーツボウルを置く人など、多くの人間が関わっています。そこには作者性があり、人々への説明責任が生まれるのです」とジェンキンスは説明する。

一方、アンテルは再現映像の制作コストに着目する。「俳優や撮影監督、その他全てに何千ドルもかけて再現映像を作る場合、それを正確に行うために膨大な労力と研究を注ぎ込むことになります。生成AIの問題は、それがタダで即座にできてしまうこと。『なぜやらないの？』と言われれば、簡単に作れてしまうのです」

APAのガイドラインは、AI生成コンテンツが安価で手軽だからといって、安易に使用せず、特に、実在の人物を模倣したり、その人物の姿を表示したりするためにAIを使用することについては、倫理面を慎重に検討するよう製作者に促している。ジェンキンスは、歴史上の人物をナレーターとして起用する誘惑が高まっていると指摘する。AI生成音声の品質が急速に向上していることを考えると、これがドキュメンタリーの新たなトレンドになる可能性もあるという。

「そういった手法の文化的感受性や倫理、制作者とその遺産との関係など、考慮すべき点は多岐にわたります」とジェンキンスは語り、AIが生成したナレーションの言葉の強調や感情は、アルゴリズムで決定されたもので、実際の人物の真の姿を反映することはないと指摘する。

ガイドラインと並行して、APAは映画製作者向けのツールキット公開も計画している。これには、ドキュメンタリーにおける生成AI使用を追跡するためのキューシートのテンプレートなどが含まれる。

このトラッカーには、AIモデルに入力したプロンプト、生成日時、利用規約を追跡するためのソフトウェアバージョン、参照資料とその著作権状況などを記入する項目がある。法規制や業界規範が流動的な今、APAはこれらの情報を記録しないと、製作者が脆弱な立場に置かれたり、プロジェクトが頓挫したり、後々法的問題に巻き込まれる可能性があると警告する。

「私たちにはアーカイブや音楽のキューシートがあり、それらは業界で当たり前のものになっています。ところが突然、生成AI要素が現れ、まるでそれらに出所がないかのように扱われているのです」とアンテルは懸念を示す。「私たちは、それらにも出所があり、それが何なのかをできる限り把握する必要があると主張しています」

現在までに、APAは米国の主要ストリーミングサービス（Netflix、Amazon、Apple、National Geographic、Huluなど）にガイドラインを送付している。来年にかけて、新たに獲得した資金を活用し、映画祭でのワークショップ開催や、スタジオ、業界団体との対話を継続するという。。

APAの共同ディレクターたちは、この1年の活動を通じて、ドキュメンタリー製作者と視聴者の間の信頼関係がいかに「脆い」かを痛感したという。「視聴者の信頼は一瞬で失われかねません。そうなれば、ドキュメンタリー業界全体に大きな影響を及ぼすでしょう」とジェンキンスは言う。

独立系ドキュメンタリーとハリウッド映画の世界から視点を移すと、APAにとって、放送局がこの対話にどう参加するかという大きな課題が残されている。これらのガイドラインから、ニュース番組の制作現場に活かせる教訓はあるのだろうか。あるいは、特にドキュメンタリーを放送するテレビネットワークの編集基準に組み込めるものはあるだろうか。

放送局のAIポリシーはどこにある？

全国ニュースの放送局はこれまでAPAの主要な焦点ではなかったが、最も実りのある対話ができたのはPBSだったとAPAは述べている。

これは驚くべきことではない。PBSは、いくつかの指標から見て、現在米国でAI生成コンテンツのテレビ利用に関して最も包括的かつ透明性の高い基準を持つ放送局だ。2023年9月にPBSが発表したメモでは、現在APAが提唱している多くの推奨事項を既に採用している。

特筆すべきは、全てのAI生成コンテンツにマークを付けるよう明示的に要求している点だ。「PBSは、視聴者がコンテンツの信頼性を評価し、それが信頼に値するかどうかを自ら判断できるようにすることを目指している」とメモでは述べている。PBSはツールキットの中で、具体的な開示方法として、画面下部のテロップ、番組冒頭や終了時のクレジット表示、AIツールの使用方法を説明する補足的なウェブコンテンツなどを挙げている。

「実際の出来事の再現やシミュレーション」については、このメモは既存の12ページにわたる基準文書を参照している。この文書は過度な演出を戒め、再現映像であることを視聴者に明確に示すよう求めている。

PBSそのものはAPAのガイドラインを正式に承認していないものの、同局で放送されている『POV』の制作チームは署名している。『POV』は1988年の放送開始以来、米国で最も長く続いている独立系ドキュメンタリー番組だ。また、PBSを代表するドキュメンタリー監督の一人、ケン・バーンズも署名リストに名を連ねている。彼の『南北戦争』『ジャズ』『国立公園：アメリカの最高のアイデア』などの作品は、いずれも厳選されたアーカイブ資料に大きく依存している。

PBSがその方針をかなりオープンにしているのとは対照的に、他の主要ニュース放送局の多くは沈黙を守っている。私が調べた限り、他のネットワークでPBSと同レベルの詳細さと透明性を持つポリシーを見つけることはできなかった。

APAのガイドラインはNBC Universal Academy（NBC Universalのジャーナリズム教育部門で、AI倫理に関する記事を定期的に発表している）によって支持されたが、NBC Newsや他の主要ネットワークからは支持を得ていない。NBC News、CBS News、ABC News、Fox Newsのいずれについても、公開されているAI編集ポリシーを見つけることはできなかった。NBC Newsは本稿の公開までに、現在の編集方針に関する質問に回答しなかった。

CBS NewsとStationsの基準・実践担当上級副社長クラウディア・ミルンはNieman Labに対し、同局の方針について若干の説明を行った。「CBS Newsは、AIに関する報道の文脈でのみAIコンテンツを使用しています。そして、必ずAI生成コンテンツであることを明示しています」と彼女は述べた。さらにミルンは、現在CBS News（「CBS Evening News」などのアンカー番組や「60 Minutes」「48 Hours」などのニュースマガジン番組を含む）では、歴史的出来事の再現やアーカイブ映像の代替としてAIを使用することは認めていないと付け加えた。

APAが指摘するように、一部のドキュメンタリー作品では、慎重かつ倫理的な方法でディープフェイク技術（主にAIによるフェイス・スワップ）を使用している。例えば、リベンジポルノの被害者（Another Body）や危険にさらされているLGBTQ+活動家（Welcome to Chechnya）の身元を保護するためだ。調査報道で匿名の情報源を扱う場合など、ニュース番組でも同様の使用例が考えられる。しかし、ミルンによると、現在CBS Newsでは場所や情報源を偽装・隠蔽するためのAI使用を認めていないという。「そのための編集ツールは他にもたくさんあります。背景を偽装したり変更する場合は、その旨と理由を視聴者に明確に伝えます」と彼女は説明した。

一方、CNNは長年、名誉毀損訴訟から身を守るために編集基準を非公開としてきた。しかし、AIに関しては、CNN WorldwideのAboutページに「AI原則」のセクションを設けている。これらの原則は「透明性」と「人間による監視とガードレール」に言及しているものの、PBSのメモほど具体的ではなく、CBS Newsのような厳格なポリシーにも及ばない。

アカデミー賞受賞作『Navalny』を含む数々の長編ドキュメンタリーを手がけてきたCNN InternationalとCNN Filmsの広報担当者は、これらの原則がドキュメンタリー制作やCNNのニュースルームにどのように適用されているかという質問に回答しなかった。

APAは今後、ドキュメンタリーとジャーナリズムの世界の間に時として存在する溝を埋めることを目指し、その取り組みの一環として放送ニュースにも注目している。

「新興テクノロジーをめぐるコミュニケーションの重要性について、我々には独自の視点があります」とジェンキンスは語る。APAはハーバード・ケネディ・スクールのShorenstein CenterやPoynter Instituteなど、倫理的なAI導入のためのガイドライン作りに取り組む組織とも会合を重ねてきた。「私たちはそれぞれ独自のアプローチで取り組んでいますが、相互の対話はまだ少ないのが現状です。我々の活動の多くは、ネットワークを広げ、お互いの取り組みについて認識を高めることに向けられています」

アンドリュー・デックは、Nieman Labの生成AI担当スタッフライター。あなたのニュースルームでAIがどのように使用されているか、お聞かせください。ご連絡は、メール（andrew_deck@harvard.edu）、Twitter（@decka227）、またはSignal（+1 203-841-6241）まで。

Documentary filmmakers publish new AI ethics guidelines. Are news broadcasters next? | Nieman Journalism Lab