人工知能に関する初の国連総会決議をデジタルライツ団体はどう評価したか

Access Now

私たち署名団体である市民社会組織は、米国主導の国連総会決議「持続可能な開発のための安全で信頼できる人工知能システムの機会を捉える」を歓迎する。人工知能のような分野において、国際法（国際人権法を含む）や持続可能な開発へのコミットメントがどのように適用されるかについて、国家が立場を明確にすることは、国連の本部から遠く離れたステークホルダーにとって有益である。これは、人工知能を取り巻くあらゆる誇大宣伝、不明確な定義、そして自己利益の擁護者が存在する中で、特に当てはまる。

私たちは、「国際人権法の遵守が不可能であるか、人権の享受に過度のリスクをもたらす人工知能システムの使用を控えるか、やめる」よう国家、そして重要な他のステークホルダーに呼びかけるこの決議の実効的な文言を強く称賛する。市民社会は、このようなメッセージが「上り坂の戦い」であったと指摘しており、したがってこの全会一致の決議は正しい方向への前向きな一歩と捉えるべきである。私たちは国家に対し、このような勧告を実行に移し、とりわけ国連Global Digital Compact（GDC）など今後の交渉においてこのコンセンサスの呼びかけを真摯に受け止めるよう求める。GDCでは、人工知能を含む新興技術のガバナンスを改善し、デジタル協力を促進することを目的として、先週ゼロドラフトが公開されたばかりである。私たちはさらに、いわゆる感情認識やジェンダー検出技術など、人間の尊厳を尊重せず、人権を本質的に侵害する特定のテクノロジーの禁止を含めるよう、国家に呼びかけていく。

信頼できる 人工知能と人権に関する言及がテキスト全体で一貫して参照されていたことを歓迎する。推奨されている技術的、規制的、教育的措置の多数の項目は、設計段階でのリスクや影響評価から導入後のフィードバックメカニズムに至るまで、人工知能システムのライフサイクル全体で危害を防ぐために国家や企業が求める選択肢として有用なメニューを提供している。さらに、特に開発途上国のすべてのコミュニティの参加を可能にすること、そしてその関与の必要性を認識することは、実践的な実施のためにさらに奨励されるべきである。

しかしながら、この決議には懸念もある。

• 第一に、デジタル・ディバイドを解消するよう求める段落は、単に「より強力なパートナーシップ」を必要とするものとして位置づけられているが、資金調達等を含むさらなるコミットメントが緊急に必要である。実施のための呼びかけと詳細こそが重要である。残念ながら、決議ではその詳細が述べられておらず、現時点では、国連人工知能ハイレベル諮問機関の中間報告でも取り上げられていない。
• 第二に、この決議が軍事分野と非軍事・民生分野を区別している点には、いくつかの理由から深く懸念している。(1) 包括的な国家安全保障・軍事的例外は国際法に整合しない。(2) 安全で信頼でき、安心できる人工知能などに関する言葉は、民生利用と同じようにあるいはそれ以上に軍事利用にも適用されるべきである。(3) 特にデュアルユースAIシステムについては、その違いに関する基準がない。これは仮定の話ではない。EU AI法は、法執行機関、移民管理、国家安全保障当局によるAIの使用に危険な抜け穴を作り出しており、国連はより高い基準を設定しなくてはならない。
• 第三に、提案されているAIガバナンスの枠組みは、真のマルチステークホルダーモデルを反映しておらず、特に市民社会、脆弱で周縁化されたグループ、地域および先住民コミュニティが、自分たちに影響を与えるAIに関する意思決定に関与する際の有意義な参加と包括性に関して、より強化されなければならない。例えば、オペレーティブパラグラフ6では、「包括的かつ公平な」参加を求める呼びかけについては、言葉を濁している。
• 第四に、この決議は、政治的意思と協力の欠如が真の障壁となっている状況において、国連の持続可能な開発目標（SDGs）に取り組むために、他のグローバルな人工知能の対話と同様に、テクノ・ソリューショニズムに大きく依存している。気候変動のような課題に取り組むための持続的で強力な国際協力なしに、人工知能はこの決議で設定された目標を達成することはできない。
• 最後に、この決議はSDGs達成に向けた社会経済環境の進歩のためのいくつかのAI技術の影響に焦点を当てているが、残念ながら、2030アジェンダの持続可能な開発のもう一つの不可欠な側面、すなわち人権の保護を十分に含んでいない。人権への影響は他のセクションで簡素に言及されているが、SDGsとの関連でこそ強調することが重要である。

今後のAIガバナンスに関する交渉の課題は、すべての国家が順守することに同意した規範である人権とセキュリティの中心性を主張し続ける一方で、権利を尊重するデジタル・トランスフォーメーションと持続可能な開発を共に推進することである。私たちは国家に対し、市民社会やその他のステークホルダーと協力し、国連人権システムの文脈において、この持続可能な開発に焦点を当てたテキストを補完するAI決議を策定することを求める。さらに、この決議は、総会における通常の委員会ベースの協調的プロセスではなく、本会議のみで策定されたものである。私たちは、この決議の今後の改訂にあたっては、この単独のアプローチから脱却することを強く推奨する。

グローバルレベルで活動し、しばしば特定の国で責任を回避する民間企業の説明責任に関するコミットメントが必要になるだろう。人権に準拠していないテクノロジーの流通を防ぐためには、追加のスタンダードとメカニズムも必要になるだろう。労働と環境への配慮は、そのような取り組みや、ビジネス主体によるコンプライアンス評価の重要な要素でなければならない。

市民社会は、この決議が法的拘束力を持たず、執行メカニズムを含んでいないことに留意しつつも、全会一致の採択を実現し、国家が人工知能に対するグローバルな防護柵の確立に向けて活用できるものを提供することで、針の穴を通すように前進していることは注目に値すると指摘している。したがって、私たちはすべてのステークホルダー、特に国家に対し、今後の議論、特に国連GDCに関する交渉において、他の関連決議や国連主導の取り組みと連携してこの決議を活用し、特に人工知能の人権への影響に焦点を当てるよう呼びかける。まず、以下のような既存の国連のリソースを参考にすることが良いだろう。(1) それぞれの権限から人工知能の人権への影響に焦点を当ててきた国連特別報告者の勧告、(2) 昨年末に初めて導入された「デジタル技術の文脈における人権の促進と保護」や隔年の「デジタル時代のプライバシーの権利」決議などの決議、(3) シリコンバレー訪問の文脈での生成AIに関する声明や、国連人権高等弁務官事務所B-Tech 生成AIと人権サミットでの発言、B-Tech生成AIプロジェクトの継続的な活動など、国連人権高等弁務官の継続的な活動。

署名

Access Now

Article 19

Association for Progressive Communications

Derechos Digitales

Digital Action

European Center for Not-For-Profit Law Stichting

Global Partners Digital

International Center for Not-for-Profit Law

Privacy International

Joint statement: Finding the good in the first UN General Assembly resolution on artificial intelligence – Access Now