政府のAI活用と電子政府化が進むラテンアメリカ：EFF 2024 in Review

Electronic Frontier Foundation

電子政府プロセスを促進する政策は、ラテンアメリカの地方および地域レベルで勢いを増している。これらの取り組みは公共サービスへのアクセスを効率化できる一方で、アクセスを困難にし、不明確にし、人々の基本的権利を危険にさらす可能性もある。今後は、政府のデジタル移行プロセスにおける透明性とプライバシーの保証を重視していく必要がある。

デジタル化に対する地域的アプローチ

11月、ラテンアメリカ・カリブ情報社会に関する第9回閣僚会議で、地域のデジタルアジェンダ2026年（eLAC 2026）が承認された。この取り組みは、LACの経済発展を促進することに焦点を当てた地域協力フォーラムである国連ラテンアメリカ・カリブ経済委員会（ECLAC）の枠組みの中で展開されている。

eLAC 2026の主要テーマの一つは、効率性、透明性、市民参加、説明責任を向上させるための政府プロセスとサービスのデジタル化を含む、国家のデジタル変革である。このデジタルアジェンダはまた、公共サービスへのアクセスを容易にし、地域統合の枠組みの中で国境を越えたデジタルサービスを推進するためのデジタルアイデンティティシステムの改善を目指している。この文脈において、アジェンダは意思決定、政策立案、ガバナンスのためのデータの活用と活用を目的として、プライバシー、セキュリティ、相互運用性を確保しながら、政府のデジタルシステムにおける情報共有を促進する政策を実施しようとする各国の意欲を示している。

この地域的なプロセスは、ここ数年ラテンアメリカで勢いを増している国レベルの取り組みを反映し、またそれを促進している。政府のデジタル変革への動機付けは、政府の効率性を向上させるという背景の中で形作られている。実際に「効率性」が意味するものを見極めることが重要である。しばしば「効率性」は、基本的権利を犠牲にして予算削減や公的プロセスと給付へのアクセスを縮小することを意味してきた。基本的権利の促進こそが、何が効率的で成功的かについての国家の指標を導くべきである。

そのため、デジタル化は公共サービスへのアクセスを効率化し、権利の享受を促進する上で重要な役割を果たす可能性がある一方で、人々がこれらのサービスにアクセスし、一般的に国家とやり取りすることをより複雑にする可能性もある。最も脆弱な人々は、そのやり取りが上手く機能することを最も必要とし、使用されている技術では対応できないような特殊な状況にあることが多い。また、彼らはデジタル技術へのアクセスが限られ、デジタルスキルも限られている人口でもある。

さらに、デジタル技術を政府のプロセスと日常業務に適切に統合することは、透明性と市民参加を高める可能性を持っているが、これは保証された結果ではない。それには政府の意欲とこれらの目標に向けた政策が必要である。そうでなければ、デジタル化は市民と国家の間に複雑さと距離を加える追加的な層となってしまう可能性がある。透明性と参加を改善するには、人々を政府サービスのユーザとしてだけでなく、国家のデジタル移行に関連するものを含む公共政策の設計と実施における参加者として捉える必要がある。

デジタルアイデンティティとデータ相互運用性システムの活用は、一般的に政府のデジタル化計画の自然な一部として扱われている。しかし、これらは慎重に扱われるべきである。私たちが強調してきたように、これらのシステムの実装への国家の投資には、効果的で堅牢なデータプライバシーのセーフガードが必ずしも伴わない。これは、前例のないデータ追跡の潜在的な体制に拡大される可能性があるにもかかわらずである。他の推奨事項とレッドラインの中でも、デジタル化ではなく物理的な文書の使用を継続することを選択する各個人の権利を支持することが重要である。

これらの懸念は、デジタル移行プロセスにおける基本的権利を支える基礎となる制度的・規範的構造を持つことの重要性を強調している。そのような構造には、装備された権限のある監督機関によって支持される堅固な透明性とデータプライバシーの保証が含まれる。しかし、国家はしばしばその組み合わせの重要な役割を軽視している。2024年、メキシコはその顕著な例を示した。新メキシコ政府が国のデジタル変革を前進させる措置を講じている一方で、透明性、情報へのアクセス、個人データ保護のための国立機関（INAI）のような重要な独立監督機関を閉鎖する方向に進んでいる。

権利に影響を与える目的でのデジタル化と政府のアルゴリズムシステムの使用

ラテンアメリカの各国で承認されたAI戦略は、政府によるAIの利用促進が国家AI計画の重要な梃子であり、政府のデジタル化プロセスの構成要素であることを示している。

2024年10月、コスタリカは中米で最初にAI戦略を立ち上げた。「スマートガバメント」と名付けられた戦略的軸の一つは、公共部門におけるAIの利用促進に焦点を当てている。この文書は、公共行政に新興技術を組み込むことで、意思決定の最適化と官僚的タスクの自動化が可能になることを強調している。また、市民の特定のニーズに応じたパーソナライズされたサービスの提供も視野に入れている。このプロセスには、公共サービスの自動化だけでなく、市民と政府のより直接的な相互作用を可能にするスマートプラットフォームの創設も含まれている。

一方、ブラジルはAI戦略を更新し、2024年7月に発表したAI計画2024-2028では、軸の一つが公共サービスを改善するためのAIの使用に焦点を当てている。ブラジルの計画はまた、コンテキストに応じた、ターゲットを絞った、プロアクティブなコンテンツを市民に提供することによる公共サービスのパーソナライズ化を示している。これには国家のデータインフラストラクチャと政府機関間のデータ相互運用性の実装が含まれる。計画で提案されているAIベースのプロジェクトには、神経変性疾患の早期発見の開発や、学生の学校または大学の軌跡を評価する「予測と保護」システムが含まれている。

これらの各アクションには潜在的な利点があるかもしれないが、人権に対する大きな課題とリスクも伴う。これには、パーソナライズされたサービスを提供するためにそれらのシステムが処理し、相互参照する可能性のある大量の個人データ（センシティブなデータを含む）、リスク評価システムにおける潜在的なバイアスと不均衡なデータ処理、そして政府と国民の間の人間対人間の相互作用を自動化が代替できるという問題のある前提に向けたインセンティブが含まれる。データの収集方法やどの技術を採用するかについての選択は、一般的に技術的で政治的議論から遠いものとして扱われているが、最終的には政治的なものである。

重要な基本的なステップの一つは、公共機関が使用しているAIシステムまたはパイロットプログラムの一部であるAIシステムについての政府の透明性に関連している。少なくとも、これらのシステムが存在することを、その設計と運用に関する重要な詳細とともに積極的に人々に知らせることから、その結果と影響に関する質の高い情報と指標まで、透明性が及ぶべきである。

ラテンアメリカの公共機関によるアルゴリズムシステムの採用が増加しているにもかかわらず（例えば、2023年の研究はコロンビアで使用されている113の政府ADMシステムをマッピングした）、堅固な透明性イニシアチブはまだ初期段階にある。チリはその公共アルゴリズムのリポジトリで際立っており、一方ブラジルは2024年にBrazilian AI Observatory（OBIA）を立ち上げた。地域のILIA（ラテンアメリカ人工知能指標）と同様に、OBIAはブラジルにおけるAIシステムの採用と開発の状態を測定するための意味のあるデータを特徴としているが、政府機関が使用しているAIベースのシステムに関する詳細な情報はまだ含まれていない。

人権とアカウンタビリティの観点から最も課題が多く議論の的となる応用は、セキュリティ関連活動における政府のAI利用である。

政府の監視と新興技術

2024年、ハビエル・ミレイ大統領下のアルゼンチンの新政権は、警察のサイバー監視とAI監視能力を規制する一連の法令を可決した。その一つ、5月に発行された法令は、警察が犯罪を防止するために「サイバーパトロール」またはオープンソースインテリジェンス（OSINT）をどのように実施すべきかを規定している。OSINTの活動は必ずしもAIの使用を伴うわけではないが、膨大な量のデータの分析を容易にするため、AIモデルを次第に統合している。OSINTは調査ジャーナリズムを含む重要で正当な用途があるが、政府の監視目的での応用は多くの懸念を引き起こし、乱用につながってきた。

7月に発行された別の規制は、「セキュリティに応用される人工知能ユニット」（UIAAS）を創設した。新機関の権限には、「オープンなソーシャルネットワーク、アプリケーション、インターネットサイトのパトロール」と「過去の犯罪データを分析して将来の犯罪を予測するための機械学習アルゴリズムの使用」が含まれている。アルゼンチンの市民社会組織であるObservatorio de Derecho Informático Argentino、Fundación Vía Libre、Access Nowは、新設されたユニットに関する情報へのアクセス権を執行するため裁判所に提訴した。

地域におけるデジタル監視技術の政府による使用に関する持続的な不透明性と乱用に対する効果的な救済手段の欠如は、米州人権委員会（IACHR）の表現の自由に関する特別報告者の行動を求めた。特別報告者事務所は、デジタルを活用した監視の乱用、デジタル監視法制の現状、地域における民間監視市場の範囲、透明性とアカウンタビリティの課題、そしてギャップとベストプラクティスの推奨事項について、意見を受け付けるための協議を実施した。EFFは専門家インタビューに参加し、協議プロセスにコメントを提出した。最終報告書は来年、重要な分析と推奨事項とともに公表される予定である。

前進に向けて：ラテンアメリカにおける政府のAI利用のための米州人権基準の構築

これらの広範な課題の文脈を考慮して、私たちは権利に基づく判断のための政府によるアルゴリズムシステムの使用に対する米州人権基準の適用に関する包括的な報告書を発表した。米州裁判所の判決とIACHRの報告書を深く掘り下げ、国家機関が人々の権利に影響を与える可能性のある判断のためにAIとADMシステムを導入するかどうか、そしてどのように導入するかを評価する際に考慮すべきことについてのガイダンスを提供している。

私たちは、国家機関が権利に基づく判断のためにAI/ADM技術の実装を決定する際に、米州システムの下での国家の約束が何を意味するのかを詳述した。この採用が必要性と比例性の原則を満たさなければならない理由と、それが何を伴うのかを説明した。国家のAIベースの政策に対する人権アプローチとは何を意味するのか、その導入を進めないための重要なレッドラインを含めて強調した。米州人権条約とサンサルバドル議定書に規定された主要な権利に基づいて人権への影響を詳述し、それらの適切な適用のための運用フレームワークを設定した。

この報告書に基づき、私たちは監督機関と連携を図り、メキシコの検察官のトレーニングに参加し、ブラジルのサンパウロ州の公選弁護人事務所との関係を強化した。私たちの目標は、AI/ADMシステムの適切な採用と、より広く政府のアルゴリズムシステムの使用に関する公益機関としての役割を果たすためのインプットを提供することである。

顕著な政府のデジタル化の文脈における権利に影響を与える技術の国家による展開に対する公的監視を強化することは、民主的な政策立案と人権に沿った政府の行動にとって不可欠である。市民社会も重要な役割を果たしており、私たちは潜在的な影響について認識を高め、その過程で権利が損なわれるのではなく強化されるよう、取り組みを続けていく。

本稿は、我々EFFの「Year in Review」シリーズの一部である。2024年のデジタルライツをめぐる戦いに関する他の記事はこちら。

Deepening Government Use of AI and E-Government Transition in Latin America: 2024 in Review | Electronic Frontier Foundation