AIと警察の調書作成：EFF 2024 in Review

Electronic Frontier Foundation

今や私たちの生活のあらゆる場面で、「人工知能」の波を避けることはできない。レシピを検索すればAIが吐き出す要約ばかりが目につき、親戚からは医者にいかずにチャットボットに診てもらうようにしたなんて話を聞かされる。AIがあらゆる問題を解決してくれるという考えが、かつてないほど広まっているようだ。その一方で、資金力と影響力を持つ人々に、事業や業務にAIを導入する必要性を説得することで、莫大な富を築く人々も現れている。

警察という存在は、多くのテック企業にとって格好のカモだ。潤沢な予算を持ち、犯罪対策という政治的圧力にもさらされている。そして何より、犯罪を根絶する魔法の弾丸を心底欲している。こうした要因が重なって、警察はまさに理想的な顧客となる。過去のデータを機械学習で分析し、認識・予測するパッケージを、テック企業がどんな形で売り込もうとも、飛びついてくるのだ。

警察活動におけるAIの使用は、顔認識、予測的取締、データ分析、自動銃声認識など、その歴史は数十年前までさかのぼる。だが今年は、警察活動とAIの関係において新たな、そして厄介な展開が見られた。それはAIによる警察の調書作成だ。

TruleoやAxonといった企業を筆頭に、大規模言語モデルを使用して警察官の代わりに調書を作成するベンダーの市場が急成長している。Axonのシステムでは、ボディカメラの音声を使って物語調の調書を作成する。警察官は最小限の指示で済む。

我々は、警察がAIを使って調書を作成させることの問題点について指摘した。最も重要な点は、調書の内容を確認した責任者としてチェックを入れたところで、反対尋問で虚偽が発覚した際に「それはAIが書いた部分だ」と言い逃れできてしまうことだ。結局のところ、AIのハルシネーションについては誰もが知っているし、利用規約だって大して読むことなく同意している。

疑問は尽きない。翻訳は科学ではなく技能（art）である。そのため、このAIは物理的な衝突や、「抵抗をやめろ」「武器を捨てろ」といった警察特有の言い回しを、相手が実際には武器を持たず抵抗もしていなかったとしたら、AIはこれをどう理解し、どう表現するのだろう。皮肉やスラング、方言、英語以外の言語はどこまで理解できるのか。このような問題を抱え、その解決策が示されていなかったとしても、放っておけば警察官はあらゆる調書にAIを使用し始めるだろう。

米国ワシントン州の検察官たちは、裁判に支障をきたす可能性があることを懸念して、警察にAIを使用した調書の作成を（当面の間）控えるよう要請している。

数多くの映画やテレビ番組で、警察官が書類作業を嫌がる様子が描かれている。これらのポップカルチャーでの描写が示唆するように、2025年にはこの技術が急速に広まることが予想される。EFFはその広がりを注視し続け、新たなAIの使用事例について報告していくつもりである。

本稿は、我々EFFの「Year in Review」シリーズの一部である。2024年のデジタルライツをめぐる戦いに関する他の記事はこちら。

AI and Policing: 2024 in Review | Electronic Frontier Foundation