欧州AI法：盛り込まれた人権保障といまなお残る問題点

Access Now

欧州議会の人工知能法（AI法）テキストが、域内市場・消費者保護委員会（IMCO）および自由権・司法・内務委員会（LIBE）で承認された。これは人権の勝利だ。AI法は、EU全域および入境する人々が監視から保護され、ビッグテックの利益よりも優先されることを保証する基盤となる法律である。

厄介な難点はいくつか残されているが、議会のテキストには、Access Nowとパートナー団体が提唱してきた重要なセーフガードと人権保障が統合されている。

議会は、人権の保護のために、AI法提案の修正に勇敢かつ大胆に取り組んでいます。バイオメトリクス監視や予測的取り締まりといった危険かつ有害なアプリケーションを阻止する重要な修正が加えられ、また、高リスクAIシステムの実装者への説明責任と透明性の要件も強化されてました。とはいえ、議員たちは、第6条の高リスク分類プロセスにおける危険な抜け道など、今も残されている重大な問題点に対処しなければなりません。

ダニエル・ロイファー / Access Now シニアポリシーアナリスト

Access Nowは以下の点を特に歓迎している。

• バイオメトリクス監視の禁止：公共空間におけるリアルタイムの遠隔バイオメトリクス識別（RBI）、大半の事後ないし遡及的RBI使用の全面禁止、法執行・国境管理・職場・教育における感情認識の禁止
• 人種差別的・差別的AIの停止：差別的なバイオメトリック分類、予測的取り締まり、監視データベースを作成するためのバイオメトリックデータの大規模スクレイピングの禁止
• 人権への影響への対応：高リスクAIシステムの実装者に対する人権影響評価の義務づけ、および公的機関による公表
• 透明性の向上：第60条の閲覧可能な公開データベースの範囲を拡大し、公的機関による高リスクのAIシステムの実装を含めたこと
• 入境者（移民）保護の強化：EUの移民データベースへの適用、移民の文脈における生体識別システム、予測分析、AI国境監視など新たな高リスクシステムの追加

今回の採決は交渉に向けた重要な一歩だが、欧州議会は来る6月の本会議採決で交渉テキストを確認し、さらに強化しなければならない。

AI法にはまだ深刻な懸念がある。Access Nowは、EUの立法者に対し、今後のトリローグ交渉で以下の問題を優先的に扱うよう求める。

• 抜け穴を塞ぐこと：第6条に追加された、高リスク分類の自己評価を可能にする文言を削除すること。これはすでに欠陥を抱えているリスクベースのアプローチをいっそう損ない、AI法を自主規制化してしまう深刻な抜け穴を作り出す。
• 移民の権利侵害の回避：移民手続きにおける自動リスク評価や移民の移動を制限するための予測分析システムの禁止を追加すること
• 国家による行き過ぎの抑止：規則の適用範囲を維持し、国家安全保障、法執行、移民当局を除外しようとする試みを拒否すること

欧州議会は、移民の状況にかかわらず、EU域内およびEU域内に入境するすべての人々の権利を保護するために、可能な限り強い立場でAI法トリローグ交渉に臨まなければなりません。本会議採決は、移民の文脈で使用される危険で本質的に差別的なAIシステムを禁止し、移民や人種的な排除の推進に対抗する上で、議会の最後のチャンスとなります。誰もが基本的権利の保護を受ける権利があります。

カテリーナ・ロデッリ / Access Now EU政策アナリスト

Big wins, but gaps remain: European Parliament Committees vote to secure key rights protections in AI Act – Access Now