以下の文章は、電子フロンティア財団の「Weasel Words: OpenAI’s Pentagon Deal Won’t Stop AI‑Powered Surveillance」という記事を翻訳したものである。
誤解なきよう予め補足しておくと、本稿で取り上げるOpenAIと国防総省との契約は、OpenAIのAIモデルを国防総省の機密ネットワーク内にデプロイし、軍事・諜報業務に使用するというものであり、ChatGPTユーザのデータを国防総省に引き渡すという話ではない。本稿の焦点は、令状主義を定めた憲法修正第4条に反して、国防総省が米国民に対する大規模（ドラグネット）監視にOpenAIのモデルを利用できてしまうのではないか、という問いにある。EFFは、これまでの米国政府の慣行に照らせば、修正後の合意をもってしても米国市民の監視に使用される疑いは拭えないと指摘している。なお、この合意において、非米国人――たとえば、これを読んでいるあなた――の大規模監視にモデルが使用されることについては、実質的な制約がほぼ存在しない点にも留意されたい。
ChatGPTを開発するOpenAIが、大きな批判にさらされている。それもそのはず。ライバルのAnthropicが、同社AIを用いた監視活動、自律型兵器システムへの制限撤回を拒否したことで生じた穴を、米国防総省（DoD）のために埋めようとしたのがOpenAIだからだ。政府による大規模監視に同意するつもりなどなかったユーザや従業員から抗議の声が上がり、報道によればChatGPTのアンインストール数は契約発表後に約300%急増したという。こうした事態を受け、OpenAIのCEOであるサム・アルトマンは、当初の契約が「場当たり的でずさんだった」と認めた。そして、契約に追加された条項を明確にするための社内メモをソーシャルメディア上で公開し、次のように述べた。「合衆国憲法修正第4条、1947年国家安全保障法、1978年FISA法を含む適用法令に基づき、本AIシステムは米国の個人および国民に対する国内監視を意図的に行うために使用してはならない」。
「適用法令に基づき」が「国内監視は行わない」という意味だと、米国政府自身が考えているはずもない。実際のところ政府は「適用法令」を都合よく緩く解釈し、大規模監視と市民的自由の大規模な侵害にお墨付きを与えてきた。そのうえで裁判所が判断を下すことを徹底的に阻んできたのである。
「意図的に」という語もまた、この文中で大きな役割を果たしている。米国市民の監視は付随的に（つまり、意図的ではなく）行われているにすぎない――政府は長年そう主張してきた。国内外の相手との通信が、本来は米国外の通信のみを収集するはずの監視プログラムに巻き込まれているだけだ、というのがその言い分である。
同社の契約修正条項も同じ調子で続く。「疑義を避けるため、国防総省はこの制限が、商業的に取得された個人情報または識別可能な情報の調達・利用を含め、米国の個人または国民に対する意図的な追跡、監視、またはモニタリングを禁止するものと理解している」。ここで危険信号となるのが「意図的な」という表現だ。諜報機関や法執行機関が、厳格なプライバシー保護を迂回するために、付随的に収集されたデータや商業的に購入されたデータに頼ってきた例は枚挙にいとまがない。
さらにこんな一節もある。「本AIシステムは、上記の権限に基づき、米国の個人の私的情報を制約なく監視するために使用してはならない。また、本システムは、民警団法（Posse Comitatus Act）およびその他の適用法令で許可される場合を除き、国内の法執行活動に使用してはならない」。ここで疑問が生じる。「制約なく」とは正確にはどういう意味で、誰がそれを判断するのか。
こうした表現を、法律家は「逃げ口上（weasel words）」と呼ぶことがある。曖昧さを生み出すことで、契約違反に対する責任追及からいずれかの当事者を守れるからだ。Anthropicとの交渉でも、国防総省はAnthropicのレッドラインを「適宜」遵守すると合意していた。いずれも政府は原則としては制限を公に約束しつつ、実際の運用においては広範な裁量を確保しようとしたのだろう。
OpenAIはまた、NSAが新たな契約なしにOpenAIのツールを使用することは認められないと国防総省が約束した点や、レッドラインが越えられていないことを検証するためのデプロイアーキテクチャについても言及している。しかし、秘密の合意や技術的な保証だけで監視機関を制御できた試しはなく、それらは強力で実効性のある法的制限や透明性の代わりにはならない。
たしかにOpenAIの経営陣は、国防総省との契約関係を通じて、政府がAIツールを民主的プロセスに沿った形でのみ使用するよう促せると本気で考えているのかもしれない。しかし、これまでに判明してきた事実に照らせば、その期待はあまりにナイーブと言わざるを得ない。
さらに、そのナイーブは危険すら伴う。政府が「適用法令」に対して極端で根拠の薄い解釈をも厭わない時代にあって、企業は自らの約束を本気で守るための実力を備えなければならない。そもそも、世界で最も悪名高い人権侵害の多くが、当時の法律の下では「合法」であった。OpenAIは「人類に害を及ぼす、あるいは権力を不当に集中させるようなAIやAGIの利用を可能にすることを避ける」と公に約束しているが、大規模監視を可能にすることがまさにその両方に該当することは、我々の知るところである。
消費者向けの製品を持つ企業でありながら、一方では人権を侵害する行為に加担していないと世間を安心させ、もう一方では政府の大規模監視事業で利益を上げようとしている――そんな企業はOpenAIだけではない。このようなマーケティングは二枚舌でしかなく、その両立が不可能であることは明白だ。そもそも、我々のプライバシーの制限に関する権限を、企業にこれほどまでに委ねてよいはずはない。我々の市民的自由を守る責任が、CEOであれ国防総省の高官であれ、ごく少数の人々の手に委ねられる状況を、市民は受け入れるべきではない。
Weasel Words: OpenAI’s Pentagon Deal Won’t Stop AI‑Powered Surveillance | Electronic Frontier Foundation
Author: Corynne McSherry and Matthew Guariglia / EFF (CC BY 3.0 US)
Publication Date: March 6, 2026
Translation: heatwave_p2p
Material of Header image: Micah Sittig (CC BY 2.0)
#
さらに補足として、この契約が非米国人に及ぼす影響について考えてみたい。
冒頭に書いた通り、今回の契約は「ChatGPTユーザのデータを国防総省に引き渡す」ものではない。しかし、この契約とは無関係に、OpenAIは米国政府に対して我々のデータを無断で提供しうる立場にある。
米国はすでに中国と同様に、自国企業が保持する非米国人のデータを――たとえ米国外に蔵置されていようと――秘密裏に取得できる法的枠組みを整えている（外国情報監視法［FISA］702条やCLOUD法など）。いかなる米国企業であれ、この枠組みからは逃れられない。もっとも、ユーザを守るために水面下で抵抗を試みてくれる企業はあるかもしれない。とはいえ、政府との契約で利益を得ている企業にそれを期待するのは酷かもしれない。
加えて、我々はオンラインサービスやアプリを利用するにあたり、ターゲティング広告のための位置情報や閲覧履歴などの収集に同意させられている（同意しなければそもそも利用すらできない）。こうした情報は、第三者への提供や広告オークションを経てデータブローカーの手にわたり、最終的には政府機関によって「購入」される。そうして、政府機関は令状なしに膨大な個人情報へアクセスできるようになる。つまり、具体的な容疑がなくとも、あらかじめ不特定多数のデータを大規模に取得（あるいはアクセス可能な状態に）しておき、何かあれば即座に照会する、あるいは時々刻々と変化する膨大な情報の中から特定の兆候をリアルタイムで検出するといったことが司法の歯止めなく可能になる。
ここで問題になるのが、こうして政府の手に集まった大量のデータが、OpenAIのモデルと組み合わされたときに何が起きるか、だ。これまで、大規模に収集されたデータは量が膨大であるがゆえに、個々の情報を人間が精査するにはコストも時間もかかりすぎるという、ある種の「実務上の防壁」が存在していた。ところがLLMをはじめとするAIは、まさにこの防壁を取り払う。
たとえば、数百万人分の位置情報・通信メタデータ・閲覧履歴・購買記録を横断的に分析し、個人ごとの行動パターンをプロファイリングすることも、特定の兆候（集会への参加、特定の人物との接触、ある種の情報へのアクセス、不特定多数のユニークな動き）を自動検出してアラートを出すことも、技術的には十分に可能になる。人間の分析官が何百人がかりで何カ月もかけて行うような作業を、AIはわずかな時間で処理できる。それを何ヶ月でも何年でも、疲れ知らずに（膨大な電力を消費しながら）続けてくれる。おせっかいなLLMなら存在しない情報すら補ってくれる。そうして、大規模監視の「効率」が飛躍的に高まっていく。
しかも、今回の契約が示すように、こうした能力の行使を制約する歯止めは米国人にしか適用されない。非米国人のデータは、FISA 702条のもとではそもそも収集の主たる対象であり、修正第4条の保護も及ばない。OpenAIのモデルが国防総省の機密ネットワーク内で稼働する以上、そこに投入されるデータが何であるかを外部から検証する手段も事実上存在しない。我々のデータがどのように処理されているのか、そもそも処理されているのかすら、知る術はない。
今回の国防総省との契約に限らず、このような「官民連携の諜報」――民間によるスパイ活動と、米国政府による大規模監視はますます拡大し、常態化していくのだろう。少なくとも、米国にはその実績がある。
おりしもトランプ政権である。もちろん、どの政権であれ、国防総省とAI企業の契約は似たような帰結を迎えていただろうし、諜報活動へのAI活用は着実に進んだだろう。だがトランプ政権である。トランプのもとには、利権に群がるレントシーカーたちが結集している。そして、トランプという人物は、反抗する者には容赦のない報復を、忠誠を誓う者にはそれなりの褒美を与える――Anthropicには「サプライチェーンリスク」指定を、OpenAIには契約を与えたように。国家安全保障という名目のもと、大規模監視によって得られる情報とその処理能力が、王に忠誠を示す臣下たちへの「褒美」として配分される可能性も、決してないとは言い切れない。
