AI規制は報復的であってはならないし、AI企業の誇大広告に踊らされてもいけない

Electronic Frontier Foundation

トランプ政権のAI安全性へのアプローチ、とりわけ頻繁に世間を騒がせている生成AIモデルへの対応は、よく言っても場当たり的で、悪く言えば違憲である。EFFと連携団体が法廷助言書で説明したように、国防総省がAnthropicという1つの企業に対してとった措置は合衆国憲法修正第1条に違反している。その動機は国家安全保障上の正当な懸念ではなく、政権に協力しない企業を罰したいという欲求にあったからだ。

概してトランプ政権のAI戦略は、最先端のフロンティアモデル開発をめぐる世界的な「競争」に「勝つ」という名目のもと、規制を最小限に抑えてきた。AIのイノベーションを守るためとして、政府システムへのAIを使ったサイバー攻撃といった、きわめて深刻なAIの脅威に対処するための規制さえ狭めてきたのである。

ところが政権は、ある1つのAI企業だけを繰り返し標的にし、恣意的で高圧的なルールや制裁を科してきた。連邦政府は長年にわたり、機密システムでAnthropicのモデルを利用してきた。しかしAnthropicが、自社モデルを人間の自律的な殺害や米国民へのスパイ行為に使わせよという政府の要求を拒むと、政府はこの「ウォーク」な企業に宣戦布告した。同社を「サプライチェーン・リスク」に指定し、政府機関や政府の請負業者が同社と取引することを事実上禁じたのだ。

裁判所はこれらの制裁の発効を差し止める仮処分命令を出した。EFFをはじめとする市民的自由を擁護する団体が、今年初めに提出した法廷助言書で求めていたとおりの判断である。だが司法が動かなければ、同社はこれらの制裁によって数億ドル規模の損失を被っていたはずだ。いずれにせよ、この一件は、政府の意向に従わない企業は同じ目に遭うという明確なメッセージを発することになった。

本日提出した助言書で説明したとおり、これらの制裁は、完全自律型兵器の開発や米国民へのスパイ行為に自社モデルを国防総省が使うことを、同社が公然と拒否したことに対する明白な報復だった。この種の報復は違憲である。

最近の大統領令で、トランプ政権はAnthropicとの戦いをさらにエスカレートさせた。「輸出管理」を課し、外国籍の人間がAnthropicの新モデルであるMythosとFableを利用することを一切禁じたのだ。この命令に従うため、Anthropicはこれらのモデルの提供そのものを停止した。

こうした極端な措置は、安全保障上の懸念によって正当化されるとされた。政権は、AnthropicのMythosクラスのモデルがソフトウェアコードの既存の脆弱性を発見し、悪用するのに使われかねないと懸念していると述べた。だがそれは、LLMにとって今さら目新しい芸当でもない。Mythosクラスのモデルをめぐる社会の不安を煽ってきたのは、ほかならぬAnthropic自身でもある。同社は当初、Mythosは一般公開するには危険すぎると主張し、アクセスをごく一部のパートナーに限定していた。同社のCEOも、テクノロジーが強力になりすぎつつあるという懸念を理由に、AI開発の一時停止を呼びかけている。

しかし、規制当局がなすべきは誇大宣伝を見抜くことであって、それに油を注ぐことではない。仮にMythosの能力が既存技術をいくらか上回っていたとしても、他社はすでにその差を縮めつつある。言い換えれば、公衆を守るために例外的な輸出管理を正当化しなければならないほど、Mythosだけが際立って危険だという要素は何もない。にもかかわらず、同様の攻撃的サイバーセキュリティ能力を持つほかのLLMは輸出管理の対象になっていない。それどころか政府は、企業が一般公開の30日前にモデルを政府に提出し、サイバーセキュリティ検査を受けるよう奨励する、任意の仕組みを採用しているのである。

AI政策は現実のリスクに対して合理的に対応し、技術の実態に根ざし、公衆を守るのに必要な程度を超える負担を課すものであってはならない。Mythosクラスのモデルには輸出管理を課す一方で、ほかのAIモデルには任意の緩やかな枠組みしか適用しないという政府の場当たり的な判断は、これらの基準を何ひとつ満たしていない。サイバーセキュリティの第一線の専門家や経営者たちが最近の公開書簡で説明したとおり、これらの制裁は、ほぼ同等の能力を持つAIで武装した敵対者に悪用される前に、開発者やセキュリティチームが最良のモデルを使って脆弱性を発見・修正することを妨げている。

数十年を経ても、コードはやはり言論である

さらに重要なのは、LLMのような重要なソフトウェアツールへの輸出管理が、デジタル通信やテクノロジーの自由な流通を損ないかねないということだ。それらは活動家やイノベーター、そして一般のユーザが切実に必要としているものである。表現の自由は、こうしたツールへのアクセスを必要とする。最良のAIを公衆から奪うことは、我々の安全を少しも高めないだけでなく、我々の権利を脅かすのだ。

EFFは長年、機密指定されていないソフトウェアを一般に公開することを制限しようとする政府の試みに反対してきた。1990年代には暗号化ソフトウェアへの輸出管理に異議を申し立て、「コードは言論である」、つまり修正第1条によって保護されるという原則の確立に寄与した。裁判所は、ソフトウェアが単なる機能的な道具ではなく、アイデアや知識、技術的ノウハウを伝える手段であることを認めた。そして、民間の開発者がコンピュータセキュリティの改良を公衆と共有するのを制限しようとする政府の試みが、行き過ぎであることも認めたのである。

AIモデルは新たな問いを提起するとはいえ、そのアクセスを制限しようとする試みは、かつての暗号化規制と同じ憲法上・言論上の懸念をはらんでいる。輸出管理はとりわけ濫用されやすい。明確かつ公正な基準もなく一方的に課される場合には、なおさら疑わしいものとなる。

これらの輸出管理がAnthropicを罰するための新たな試みだったにせよ、単に見当違いの安全保障措置だったにせよ、損をするのは公衆である。高度なAIがもたらす現実のサイバーセキュリティ上のリスクは、正当な脅威から公衆を守るための限定的な規制を、最終的には正当化するかもしれない。だが政府が最終的にこの技術を厳しく規制する道を選ぶにせよ、イノベーション促進のために規制を控えるにせよ、そのルールは合理的かつ公平でなければならない。

• Anthropic対国防総省訴訟におけるEFFの法廷助言書を読む

AI Regulation Should Be Rational, Not Retaliatory | Electronic Frontier Foundation