警察のAI活用は増加しているが、透明性は追いついていない

2018年は、人工知能（AI）が、少数の警察組織しか知らなかったツールから、世界中で試験的に使用されるツールへと変化した年でした。

英国サウスウェールズ警察は5月、顔認識システムによって合計450人の逮捕者を出したと発表しました。このシステムはAI搭載ソフトウェアを用いて、監視カメラの映像と指名手配犯や高リスク者の監視リストを照合し、人間が照合した上で、何らかの措置を講じます。

同月、デジタル情報の抽出と処理を専門とするテクノロジー企業、セレブライトは、英国と米国の12の警察と協力関係にあることを明らかにした。同社はAIツールを活用し、捜査に最も関連性の高い情報を特定している。

また、中国の警察は、国内の1億7000万台のCCTVカメラのデータから学習する顔認識アルゴリズムに接続された「カメラサングラス」の着用を開始している。

この分野は急速に成長しています。他の企業も、犯罪検知能力を向上させるAI技術を開発しており、例えば、ウェブ上の情報を収集したり、容疑者の携帯電話が特定のエリアに入った際に警告を発したり、仮釈放条件に違反する可能性を推定したりするといった技術が挙げられます。

来年は、より多くの警察がAIを活用するようになるでしょう。デロイトによると、英国の警察の半数以上が2020年までにAIへの投資を計画しており、世界中の警察組織に追随を求める圧力は高まっています。新たな市場を求めて警察を訪れるテクノロジー営業担当者はますます増えています。そして警察は、限られたリソースへの需要管理の新たな方法を模索する中で、彼らを歓迎しています。

この需要は今後も増加し続けるでしょう。窃盗や侵入窃盗といった「伝統的」犯罪は多くの先進国で戦後最低水準に近づいている一方で、多くの管轄区域では、過去の事例も含め、家庭内暴力や性犯罪の通報件数の増加により捜査チームが手一杯になっています。また、テロリスト監視リスト、性犯罪者登録簿、仮釈放者名簿の急速な拡大により、警察はますます多くの人々を監視することが求められています。

そして、警察は依然として、拡大し続けるデジタルフットプリントへの対応に苦慮しています。携帯電話、フィットネストラッカー、その他のコネクテッドデバイスは、いずれも訴追において決定的な証拠となりますが、あらゆる犯罪に関するデジタル情報の処理には膨大な時間がかかります。米国の平均的な家庭には、数百メガバイトものデータが保存されているコネクテッドデバイスが8台あります。警察が弁護側にとって重要となる可能性のある情報を開示しない場合、事件は却下されるか、あるいは無実の罪を晴らすことができなくなります。

続きを読む: 英国警察が使用する顔認識技術は多くの間違いを犯している

顔認識はまだそれほど信頼できるとは言えず、南ウェールズでの試験運用では、人間の担当者による画像照合がわずか8%しか確認されていません。AIも、デジタルデータから重要な情報を引き出すと同時に、大量の不要な情報も混入させてしまうという現状にはまだ程遠い。また、AIが人種的偏見を示したという、十分に裏付けのある事例が複数あり、正当な懸念を引き起こしている。しかし、過重労働に苦しむ多くの警察署にとって、この程度の成功でさえ、何もないよりはましだ。

2019年に私たちが直面しなければならない課題は、AIの現状の限界を認識しているため、警察がその活用について話すことを躊躇していることです。警察によるAIの実験が公に報告されるたびに、秘密保持契約によって隠蔽されている実験が存在します。実験がオープンに行われている場合でも、その賛否について公に議論する機会は限られています。

来年、私たちはAIがもたらす自由と安全のトレードオフについて、倫理的な議論に臨まざるを得なくなります。ツールが各国の法的枠組み内で機能し、何百もの判決が覆されることのないよう、アルゴリズムに対する公的な精査が必要です。そして、良いツールが勝利し、悪いツールは改善されるか、消滅するかを確実にしなければなりません。

2019年には、警察倫理委員会、各国議会、そしてメディアがAIについて厳しい問いを投げかけ、AIが数学に惑わされないよう対策を講じることになるだろう。そして、アルゴリズムの透明性の水準を引き上げる以外に選択肢はなくなるだろう。これらのアルゴリズムがどのようにコード化されているかという正確な詳細は当然ながら商業的に機密事項であるが、すべての警察組織は、実験に使用しているツールとその精度、そして費用対効果を一般の人々に分かりやすく説明できなければならない。米国商務省はこの分野で先頭に立っている。同省の顔認識ベンダーテストは、膨大な数のサプライヤーから提出されたAIシステムの精度と人種差別に関する偏見を公表している。

変化は喫緊の課題です。警察がAIをもっと活用しなければ、高まるプレッシャーに圧倒されてしまうリスクがあります。しかし、AIを可能な限りオープンに開発しなければ、世論の反発を招くリスクが高まり、多くの警察組織が誰にも気づかれることなく、高額な費用をかけて効果のないツールを使い続ける状況に陥る可能性が高まります。

トム・ガッシュは『ポリシング4.0：警察の未来を決める』の共著者である。

この記事はWIRED UKで最初に公開されました。