世界初の「アルゴリズムに関する憲章」を定めた政府が登場

ニュージーランド政府がアルゴリズムに基づいた意思決定に関する憲章を新たに制定しました。同政府は、「公共生活のあらゆる分野において意思決定の原動力となりつつあるアルゴリズムに関する基準を作成した世界初の政府となった」と主張しています。

Algorithm charter for Aotearoa New Zealand - data.govt.nz
https://data.govt.nz/use-data/data-ethics/government-algorithm-transparency-and-accountability/algorithm-charter

New Zealand claims world first in setting standards for government use of algorithms | New Zealand | The Guardian
https://www.theguardian.com/world/2020/jul/28/new-zealand-claims-world-first-in-setting-standards-for-government-use-of-algorithms

Govt agencies sign up to new public sector algorithm charter - Reseller News
https://www.reseller.co.nz/article/681677/govt-agencies-sign-up-new-public-sector-algorithm-charter/

近年、法執行機関や福祉機関、保健機関なども含めたあらゆる産業・分野でコンピュータープログラムやAIが活用されるようになってきています。しかし、プログラムやAIによる意思決定は不正確かつ差別的であるという主張は根強く存在し、プログラムなどが情報を処理する際の基盤となるアルゴリズムは論争の種となってきました。

AIの先祖である「書類選考用アルゴリズム」もまた人種・女性差別的だったという事実 - GIGAZINE

そんなアルゴリズムについて、ニュージーランド政府は世界初となる「アルゴリズム憲章」を制定しました。このアルゴリズム憲章は、アルゴリズムが大量のデータの処理・解釈に用いられる際に、データの透明性と説明責任の改善を約束するというもの。憲章には、アルゴリズムに存在するバイアスの特定や、用いられるデータが目的に合致しているかの確認、アルゴリズムがプライバシー・倫理・人権に反したものではないかの確認、アルゴリズムによる意思決定における人間の役割の明示的な説明など、アルゴリズムの健全な利用を確立するさまざまな手段に対するコミットメントが規定されています。

制定に際して、教育省や環境省、法務省、運輸省、社会福祉省、総務省などの、21のニュージーランドの行政機関が署名を行いました。なお、ニュージーランドの先住民族であるマオリ族の権利と利益を保護するようにデータを取り扱うことなどを定めた「Māori data sovereignty」といった重要な考慮事項に関する決定は複雑で個別の検討を要するため、全ての問題がアルゴリズム憲章に適うわけではないということが明記されています。

ニュージーランド政府は2016年からビザ申請プロセスにアルゴリズムを使用しています。しかし、このビザ申請プロセス用のアルゴリズムは「年齢、性別、民族に基づくフィルタリングが存在している」という非難が寄せられており、差別的だと主張されていました。今回のアルゴリズム憲章の制定は、このような非難に対して、アルゴリズムに基づいたデータ分析を評価する手法の確立や、市民に影響を与えうるアルゴリズムの決定に関する透明性と公平性を確保することが求められたためとのこと。

ジェームズ・ショー統計担当大臣は、「データが安全かつ効果的に利用されていることをニュージーランド国民に確信して頂くために憲章を制定しました」「我々はデータが豊富な世界に住んでおり、アルゴリズムは膨大な量のデータのつながりや関係性、パターンを特定するために重要な役割を果たしています。アルゴリズムは意思決定の改善に役立ち、公共サービスの迅速な提供などの利益につながります」と語りました。