“移民審査でのAI使用を即時停止せよ”　EFFと140以上の団体が公開書簡

Electronic Frontier Foundation

電子フロンティア財団（EFF）、Just Futures Law、そして140を超える団体が、アレハンドロ・マヨルカス国土安全保障長官に宛てて書簡を送付し、国土安全保障省（DHS）に対し、移民制度におけるAIツールの使用を即時停止するよう求めた。

EFFは長年にわたり、米墨国境における自動化された監視システム、いわゆる「AI強化」監視の危険性を指摘し、警鐘を鳴らしてきた。我々が明らかにしてきたように、アルゴリズムによる判断が、個人を取り締まるか、逮捕するか、自由を剥奪するか、そしてこの場合、米国での庇護に値するかどうかの最終決定となってはならない。

この書簡には、市民的自由を守る非営利団体、移民権利擁護団体、政府の監視団体、そして市民社会組織など、幅広い分野の団体が名を連ねている。我々は共同で、DHSによるAI（ホワイトハウスの定義によれば「人間が定めた目的に沿って、現実または仮想の環境に影響を与える予測、推奨、または決定を行う機械ベースのシステム」）の使用が連邦政策に違反している可能性を指摘した。特に移民の取り締まりや審査の意思決定にAIが使用される場合、その責任ある使用を定めた連邦政策に抵触する恐れがあると我々は考えている。

この書簡の全文はこちら。

この書簡は、MijenteとJust Futures Lawが公開した衝撃的な報告書の調査結果を強調している。この報告書は、DHSとその傘下機関である米国市民権・移民局（USCIS）、移民・関税執行局（ICE）、税関・国境警備局（CBP）によるAIと自動意思決定システムの使用実態を明らかにしている。

DHSによるAIの評価、採用、使用に関する基準とプロセスを確立するための法律や大統領令が存在し、DHSも「不適切な組織的、無差別、または大規模な個人の監視、追跡にAI技術を使用しない」と誓約している。だが、現実には国家安全保障や情報収集、法執行の名のもとに、これらの規制を巧みに回避している実態がある。この状況は、連邦政府による責任あるAIの使用や、既存の偏見や先入観に基づく判断を増幅させるテクノロジーの弊害を抑制しようとする試みを完全に台無しにしている。

AIの有効性が十分に証明されていないにもかかわらず、DHSはさまざまな業務にAIを積極的に導入している。これらのAIシステムの多くは、移民審査をより効率的で客観的、そして偏見のないものにするとうたう技術ベンダーとの提携から生まれたものだ。

しかし、現実はそうなってはいない。せいぜい、効果は限定的だと言える程度でしかない。

報告書が指摘するように、政府自身による調査を含む多くの研究が、AIがしばしば差別を悪化させていることを明らかにしている。つまり「ゴミを入れればゴミしか出ない」のだ。この現象は、Amazonが履歴書のスクリーニングにAIを導入し、その後撤回した事例で顕著に表れている。AIが学習したデータに男性の応募者が多く含まれていたため、結果として男性の応募者を優先的に選出してしまったのだ。

EFFが断固として反対する予測的取り締まりでも同様の問題が起きている。過去の犯罪データに潜む偏見により、AIは黒人やヒスパニック系の多い地域でより頻繁に犯罪を「予測」するのだ。さらに、移民法のような複雑な文脈においては、AIツールの判断能力は著しく劣る。

これらの深刻な懸念にもかかわらず、DHSは技術を適切に審査する適切な手続きを踏むことなく、多くの業務にAIによる意思決定を組み込んでいる。報告書によれば、USCISは移民申請や救済の適格性判断プロセス、亡命申請の信憑性、個人の公共安全または国家安全保障への脅威度の評価にAIを利用している。ICEも電子監視、拘留、国外退去に関する意思決定の自動化にAIを使用していた。

同時に、これらのAIツールに関する透明性の欠如も大きな問題だ。DHSが、この技術の普及に財政的利害関係を持つベンダーによって推進された不透明で未検証のAIプログラムを採用していることについて、早急に説明責任を果たすよう求める必要がある。

DHSがこの書簡と報告書で提起された懸念に適切に対処するまで、AIツールの使用を全面的に禁止すべきだ。移民の人生を左右する重大な決定を、検証されていない技術に委ねることは許されない。