欧州AI法：危険なAIシステムの規制、透明性・説明責任・救済の権利の前進、残された懸念

EDRi

本日5月11日、欧州議会のIMCO委員会とLIBE委員会は、AI法において人間を第一に考えることを採択した。この採択は、世界的なAIシステムの規制に重要なタイミングに行われ、議会が多様な市民社会の声に耳を傾けたことで、我々の人権にとって大きな勝利となった。

EUのAI法への取り組みは2020年に始まり、EDRiネットワークとそのパートナー団体は、当初から人間第一の人権に基づくアプローチを求めてきた。

欧州議会は、禁止事項リストを挙げ、政府やAI開発者、世界に重要なメッセージを送り、一部のAIの用途は極めて有害であり許容できないという市民社会の要求に味方しています。ですが残念なことに、欧州議会の人権に対する支援は、AIによる害から移民を保護することには至っていません。

サラ・チャンダー / EDRiシニア・ポリシー・アドバイザー

欧州議会、許容できない危険なAIシステムに鉄槌を下す

欧州議会の主要委員会は、予測的取り締まりシステム、多くの感情認識、バイオメトリック分類システム、公共空間での生体識別など、AIの一部の利用が単に有害であり、許容されないとの明確なシグナルを送っている。これらのシステムは人権に深刻な脅威をもたらし、人種的マイノリティを含む、周縁化された集団への組織的差別を永続させるものである。

欧州議会議員（MEP）が、大規模バイオメトリクス監視に相当する多くの行為を禁止するために立ち上がったことを嬉しく思っています。この採決により、EUは、利益よりも人、管理よりも自由、ディストピアよりも尊厳を優先させる意思を示したのです。

エラ・ヤクボフスカ / EDRiシニア・ポリシー・アドバイザー

欧州議会は、「Reclaim Your Face」キャンペーンを支持する80以上の市民社会グループと数万人の賛同者の警告を聞き入れ、大規模バイオメトリクス監視（BMS）に相当する多くの慣行にストップをかけることを選択した。これは、我々のプライバシーと尊厳を侵害し、公共空間を嫌疑の場とし、我々の民主的権利と自由への抑圧との戦いにおける重要な勝利である。

とりわけ、この禁止措置は公共空間におけるすべてのリアルタイム、大半の事後的な遠隔生体識別（RBI）、差別的なバイオメトリクス分類、許容できないほど危険な領域での感情認識などを対象としている。これは、EU市民を、国家や民間企業による様々なBMSから守るための歴史的な一歩である。

我々はこれらのステップを歓迎しているものの、すでに欧州ではRBIは法律でも慣行でも現実のものとなっている。我々の権利と公共生活への参加を脅かす、あらゆるBMSの実装を終わらせるべく、我々はEUレベルでも、加盟国でも訴えていくつもりである。

透明性、説明責任、救済の権利の前進

市民社会は、高リスクAIを実装するすべてのアクター（「deployers」）に、特定のAIシステムをどこでどのように使用するかについて、さらなる透明性と説明責任を求めてきた。欧州議会は、実装者がAIシステムを用いる前に人権影響評価を実施しなければならないことに合意した。

しかし欧州議会は、公的機関と「ゲートキーパー」（大企業）が人権影響評価の結果を公表しなければならない、としか定めていない。これでは要件も監督もゆるく、企業が高リスクなシステムを用いる際に十分な情報を公開することを保証するものではない。

また、Chat GPTのようなシステムの背後にある「基盤モデル（foundational models）」、つまり大規模言語モデルについても、必要な計算能力（computing power）を開示する義務等の透明性要件が追加された。

また、AIシステムの影響を受ける人々をエンパワーするために、AIに基づく決定や結果によって影響を受ける人々への通知や説明の提供、権利侵害への救済措置等のための重要なステップが講じられた。

懸念が残る「高リスク」の定義と移民におけるAI

AI法第6条のリスク分類プロセスの変更案により、高リスクAIシステムに議会が設けたセーフガードが損なわれるおそれがある。この変更は、（対象外とするインセンティブがある）AI開発者が、AI法の適用対象ではないと主張しうる大きな抜け穴を提供する。第6条に提案された変更は、法の不確実性、断片化をもたらし、最終的にはEUのAI法を弱体化させるリスクとなる。人々の権利よりも企業を優遇する抜け穴を塞ぐよう、引き続き働きかけていく。

さらに、欧州議会は、差別的な監視から移民の権利を保護することにまでは踏み込めていない。欧州議会は、AIによる移民の阻止や、差別的プロファイリングを禁止リストに含めることができなかった。これらの禁止事項がなければ、欧州議会はEUの国境におけるパノプティコンへの道を開くことになる。

残念ながら、欧州議会は、何を「ハイリスク」なAIとみなすかに関して、非常に懸念される変更を提案しています。この変更によって、開発者は自分のシステムが高リスクとみなされるほど「重大」であるかを自ら判断できるようになり、この法律の施行に大きな赤信号が灯ることになります。

サラ・チャンダー / EDRi シニア・ポリシー・アドバイザー

次のステップ

6月に全欧州議会議員による本会議採択が行われ、AI法に対する議会の態度が決まることになっている。その後、この規制が成立してEU法になるまでに、加盟国との制度間交渉の期間に入る。市民社会連合はこれらの交渉において、引き続き人々を中心に据えていくための戦いを続けていくことになるだろう。