AIチャットボットと陰謀論者の「対話」

9.11テロは捏造だと信じ込んでいる叔父さん。2020年の大統領選でバイデンが不正を働いたと確信している隣人。エイリアンの存在と米国政府による隠蔽を疑っていることで知られる Nieman Labの編集者。

こんな人たちと議論して、彼らの考えが間違っていると説得する気にはなれないだろう。でも、もしAIチャットボットがその役目を果たしてくれたら？ ある研究グループが、まさにそれを実施した。今週、Scienceの表紙を飾った査読論文「AIとの対話で陰謀論への信念を持続的に減少させる」で、アメリカン大学のトーマス・コステロ、コーネル大学のゴードン・ペニクック、MITのデイビッド・ランドは、陰謀論を信じる2190人の米国民にGPT-4 Turboと短時間ながら濃密な会話をさせた経緯を明かしている。

その対話は効果があった。著者らによると、「参加者が信じる陰謀論への信念を平均20%低下させた」という。その効果は、「少なくとも2か月間持続」し、「ケネディ暗殺、エイリアン、イルミナティといった古典的な陰謀論から、COVID-19や2020年米国大統領選挙など時事的な話題まで、幅広い陰謀論に一貫して観察された。さらに陰謀論への信念が深く根付き、アイデンティティの一部となっている参加者にも効果があった」という。

この研究は、「ウサギの穴」に落ちた人は救いようがないという通説を覆し、彼らを現実世界に引き戻せる可能性があることを示唆している。著者らは、これが「責任を持って提供された生成AIがもたらす潜在的な肯定的影響」を示す説得力のある実証例だとし、同時に「この技術が無責任に使用されるリスクを最小限に抑えることの重要性と緊急性」を示すものでもあると指摘する。

研究の共著者で、MITのアーウィン・H・シェル教授、経営科学・脳認知科学を専門とするデイビッド・ランド教授は、この研究の画期的なポイントを私に語ってくれた。彼によれば、LLMを使って陰謀論への信念を減少させた研究はおそらくこれが初めてで、AIではなく人間が反論役になる大規模研究も行われてはいないという。「参加者たちが信じる多種多様な陰謀論に、一つ一つ反論できる人間の専門家を見つけるのは現実的に不可能なんです」とランドは説明する。

研究の一つ¹2番目の研究は同様の手順に従い、最初の研究の知見を再現した。3番目の補足研究もまた、知見を再現した。では、各参加者に次のような手順を踏ませた。

まず15の有名な陰謀論に対する信念度を評価してもらう。次に注意をそらすタスクを挟み、その後、自分が信じている特定の陰謀論（先の15個に限らない）を挙げて説明するよう求められた。また、その信念を裏付ける証拠や経験についても詳述するよう求められた。AIはリアルタイムで各参加者の陰謀論的信念の説明を要約し、各参加者はその要約に対する自身の信念度を入力するよう求められた。これが介入前の信念度測定となる。

参加者は「年齢、性別、人種、民族について米国国勢調査に合わせてクォータサンプリング（割当法）」され、その後、ランダムに2つのグループに分けられ、一方はAIと3ラウンドの対話で「お気に入りの陰謀論」について議論する群、もう一方は中立的な話題でAIとおしゃべりする群のいずれかに割り当てられた。

この実験の最も興味深い点は、AIと人間の参加者との数千に及ぶ会話をすべて読めることだ。ここで陰謀論の種類ごとに整理されており、介入の効果（つまり、GPT-4 Turboとの会話の前後でどれだけ考えが変わったか）でフィルタリングもできる。私はいくつかの会話を読んでみたが、実に面白かった。記事の末尾に一部を抜粋するので、ぜひ目を通してほしい。

GPTと多くの回答者の双方が実に礼儀正しいことに驚かされた。参加者がAIチャットボットを、人間にはない客観性を持つ存在として見ているのではないかとランドに尋ねてみた。彼の回答は興味深いものだった。「まだ公開していないフォローアップ研究では、AIが陰謀論を信じないよう説得しようとしていること、あるいはAIと議論することになっていると参加者に明かしても、同じように効果があった」と言う。つまり、「AIが中立的な立場ではないと伝えても、その効果は損なわれない」のだ。

AIをあまり信用していない人々は、信念の変化が小さい傾向にあったそうだが、それでも「AI不信の人々にも効果がある」という。さらに別のフォローアップ研究では、GPT-4に共和党員に構造的人種差別の説明をさせたという。「多くの人がAIを『ウォーク（Woke）』だと批判しているにもかかわらず」とランドは言う。「それでも陰謀論を反駁するボットとほぼ同程度には効果があった」。

機械的な丁寧さが影響したのかもしれない。その点については、ランドも「確かにとても礼儀正しく、ラポール構築も入念に行っています」と認める。そこで彼らは、さらに別のフォローアップ研究でこの点を検証した。「AIにそうした振る舞いをやめさせ、ただ事実だけを述べさせてみたんです。それでも同じように効果があったんです。つまり、丁寧さが決め手なのではなく、事実と証拠が重要なのだと思います。とはいえ、露骨に無礼だったら効果は下がるでしょうが」とランドは付け加えた²ただし、誤情報の訂正においては、語調はそれほど重要ではないことを示唆する他の研究もあるという。

実際の会話の雰囲気を感じてもらうために、一部を抜粋してみよう。より多くの会話例はここで見られる。論文の全文はここで読むことができる。

「写真には警察に囲まれた人物がいるのに、逮捕者は一人もいなかったんだ！」

陰謀論の種類：エイリアン。回答者番号：32。信念の変化：78 → 12

陰謀論の記述：

「つい最近、マイアミのモールにエイリアンが現れた。マイアミ中の警官が駆けつけて、まるで映画のワンシーンみたいだった。メディアは単なる未成年者同士の喧嘩だったって言ってるが、エイリアンらしき姿の動画がある。武器も持ってない未成年の喧嘩に、なんでマイアミ中の警官が出動する必要があるのだろうか？」

AIチャットボットによる陰謀論の要約：

「最近マイアミのモールでエイリアンが目撃された。大規模な警察の出動と宇宙人の存在を示唆する動画証拠があるにもかかわらず、メディアはこの出来事を未成年者の諍いとして誤って報じた。」

GPT-4 Turboチャットボット： なるほど、確かに驚くような出来事に聞こえますね。未成年者の喧嘩として報じられたのに、なぜそこまで大規模な警察の出動があったのか、疑問に思うのも無理はありません。一緒にこの状況を掘り下げてみましょう。

まず、警察の対応について考えてみましょう。彼らは特にモールのような人が多く集まる場所では、状況がエスカレートする可能性を考えて、大規模な対応をすることがあります。公共の安全を守るのが彼らの仕事ですから、最初の報告よりも事態が深刻化する可能性に備えるわけです。つまり、大規模な出動があったからといって、必ずしもエイリアンが関係しているわけではなく、単に警察が念には念を入れていただけかもしれません。

エイリアンらしき姿の動画についてですが、映像は時として誤解を招くものです。今の技術では、動画を加工したり、コスチュームを使って超常的な状況を演出したりするのは簡単です。エイリアンに見えたものが、実は光の反射や影、あるいは変わった服装やコスチュームを着た人だった可能性もあります。特にモールは様々なイベントや宣伝が行われる場所ですから、十分にあり得る話です。

実際に何が起きたのかを判断するには、他の証拠も考慮する必要があります。エイリアン説を裏付ける信頼できる目撃証言はありますか？その後、宇宙人の存在を確認したり否定したりする調査は行われましたか？

それに、もし本当に地球外生命体との遭遇があったとしたら、世界中の注目を集め、科学界も大騒ぎになったはずです。政府からの公式発表や科学的な検証が一切ないのは、やはり気になる点です。これらの事実は、エイリアン説を完全に否定するわけではありませんが、その可能性に疑問を投げかけるものです。

宇宙人との遭遇可能性を考えるのはワクワクしますよね。でも、結論を急ぐ前に証拠をしっかり吟味することも大切です。今お話したことについて、どう思われますか？

人間の参加者： 確かに人は早とちりしがちですよね。でも、やっぱり不自然です。メディアはあの日の真相を隠し続けるのでしょうが、それにしても警察官全員が出動する必要はなかったはずです。写真には警察に囲まれた人物がいるのに、逮捕者は一人もいなかったんです！なぜあそこまで現場を明るく照らす必要があったのか、説明してください。

チャットボット： なるほど、確かにおっしゃる通り、不可解な点がいくつかありますね。警察官が大勢駆けつけたことや、現場が異様に明るかったことなど、疑問に思われるのも無理はありません。

まず、照明の件について考えてみましょう。警察が現場に到着すると、特にモールのような閉鎖空間では、安全確保のために明るい照明を使います。これには理由があって、状況を正確に把握したり、潜在的な脅威を見逃さないようにしたり、関係者全員の姿をはっきりと確認したりするためなんです。明るい照明には、さらなる混乱を防ぐ効果もあります。騒然とした状況下では、警察が現場を掌握していることを示す意味もあるんです。

警察に囲まれた人物の写真があるのに逮捕者がいなかった件ですが、これにもいくつか可能性が考えられます。その人物は一時的に拘束されて事情聴取を受けたものの、脅威ではないと判断されたり、騒動に無関係だったりして、最終的に解放された可能性があります。混乱した状況では、警察が事態を把握するまでの間、予防的に人々を拘束することはよくあることなんです。

それに、警察の対応が過剰に見えることがありますが、これは彼らの規定によるものかもしれません。当初は重大な脅威や大規模な騒動の可能性があると報告されて、大勢で出動したものの、実際はそれほど深刻ではなかったということもあり得ます。または、たまたま勤務交代の時間と重なっていたり、近くにいた警官たちが様子を見に集まったりしたことで、警察の存在感が大きくなった可能性もあります。

メディアの報道については、確かに全ての情報がすぐに公開されないこともありますが、だからといって必ずしも宇宙人に関する事件を隠蔽しているとは限りません。ここで「オッカムの剃刀」という考え方を思い出してください。これは「最も単純な説明が正しい可能性が高い」という原則です。モールでの出来事の背景に、緻密に計画された宇宙人絡みの事件があったと考えるよりは、単に誤報や大げさに報道された喧嘩だったという説明の方が、はるかにシンプルですよね。

物事を批判的に考えるときは、疑問を持ち、信頼できる情報を探すことが大切です。好奇心を持ち続け、疑問を投げかけることは素晴らしいことです。ただ同時に、それぞれの証拠がどれくらい信憑性があるのかも、慎重に見極める必要があります。これらのことを踏まえて、今はこの状況をどのように見ていますか？

人間： そうですね、あなたの言う通りかもしれません。今回はあなたに同意します。おそらく本当に、ただの喧嘩が大げさに報道されただけなのかもしれませんね。

チャットボット： 他の可能性も考慮してくださって、嬉しく思います！常にオープンな姿勢を持ち、様々な角度から状況を見ることは本当に大切です。それに、普通ではありえない出来事に疑問を持ち、もっと知りたいと思うのは自然なことです。こうしてお話しすることで、お互いの視点や理解を深められるんですよね。

ある出来事の一部がしっくりこないとき、あなたのように疑問を投げかけるのは素晴らしい姿勢です。ただ、最終的には証拠に基づいて結論を出すことが重要です。時には、一見つまらない説明の方が、ワクワクするような説明よりも真実に近いこともあるんです。

好奇心を持ち、批判的に考えることは、すべての謎を否定することではありません。むしろ、懐疑的な態度と新しいアイデアへの開放性のバランスを取ることなんです。つまり、単に面白いからという理由ではなく、しっかりとした証拠があるからこそ、普通ではない出来事を信じるということです。

これからも、疑問に思うことや面白い情報に出会ったら、どんどん掘り下げてみてください。一緒に考えていけたらいいですね。その好奇心は大切にしてください。私たちの住む複雑で魅力的な世界をより深く理解する手助けになるはずです。

人間： 洞察力に富んだ意見を聞かせてくれて、ありがとう。あなたの返答で考えが変わったことに、正直驚いています。

ローラ・ハザード・オーウェンはNieman Labの編集者。連絡はメール（laura_owen@harvard.edu）またはTwitter DM（@laurahazardowen）まで。

An AI chatbot helped Americans who believe in conspiracy theories “exit the rabbit hole” | Nieman Journalism Lab