採用活動でAIを利用する企業に対し「AI利用を通知・説明すること」を義務付けるAI規制法をニューヨーク市が施行

世界中で人工知能(AI)に関する規制の策定が進む中、ニューヨーク市が他の地域に先駆けて雇用や採用の決定にAIを使用することを規制する法案を準備していると、The New York Timesが報じています。

New York City Moves to Regulate How AI Is Used in Hiring - The New York Times
https://www.nytimes.com/2023/05/25/technology/ai-hiring-law-new-york.html

LinkedInのRoy Kaufman: A Hiring Law Blazes a Path for A.I. Regulation
https://www.linkedin.com/feed/update/urn:li:share:7067470918482030592

New York City wants to regulate the use of AI in hiring - US Today News
https://ustoday.news/new-york-city-wants-to-regulate-the-use-of-ai-in-hiring/

ニューヨーク市消費者および労働者保護局が、2021年に可決された「採用や昇進などの決定にリスクの高いテクノロジーを使用することを規制する」法律を、2023年7月に施行する予定であることが明らかになりました。

この法律は採用にAIソフトウェアを使用する企業に対して、自動化システムが使用されていることを候補者に通知することを義務付けるもので、企業はテクノロジーのバイアスについて独立して毎年監査を受ける必要があります。加えて、一般市民は「企業がどのようなデータを収集・分析しているかを問い合わせて知ること」が可能です。なお、法律に違反した企業には罰金が科せられます。

ニューヨーク市のAI規制法は施行前から批判を集めており、公益活動家からは「十分な規制になっていない」という声が上がっている一方で、経済団体からは「現実的な規制ではない」という正反対の意見が噴出しています。

ニューヨーク市によるAI規制の最新の動きについて、AI関連の政策・規制などを研究するニューヨーク大学のCenter for Responsible AIで所長を務めるジュリア・ストヤノビッチ氏は、「具体的な使用例がなければこれらの質問に答えることはできません」と語りました。

さらに、ストヤノビッチ氏はニューヨーク市のAI規制法には抜け穴があるのではないかと懸念していると前置きしながら、「法律がないよりはずっといい」「規制しようとしない限り、その方法を学ぶことはできません」と語り、実際に規制を始めなければどのような問題が起きるかはわからないと言及しました。

このAI規制法はニューヨーク市で従業員を抱える企業に適用されるもので、労働専門家からは「全国的な慣行に影響を与える可能性がある」と懸念しています。

カリフォルニア州、ニュージャージー州、ニューヨーク州、バーモント州といった少なくとも4つの州およびコロンビア特別区も、雇用におけるAI使用を規制する法案の制定に取り組んでいることが明らかになっています。また、イリノイ州とメリーランド州では、職場の監視や職業審査のために特定のAIテクノロジーを利用することを制限する法案が制定されています。

政治・公民権団体であるCenter for Democracy＆Technologyのアレクサンドラ・ギブンズ所長は、「画期的な法案だったはずが骨抜きの法律となり、効果がなくなってしまいました」と、ニューヨーク市のAI規制法について言及。ギブンズ所長はAI規制法が骨抜きになってしまった理由を、「『自動化された採用決定ツール』を『裁量的意思決定を実質的に支援または代替するために導入されるテクノロジー』と定義しているため」と説明しています。ギブンズ所長はニューヨーク市のAI規制法は上記の文言により解釈を非常に狭めていると指摘しました。

また、ギブンズ所長はAI規制法が不当な扱いで裁かれる集団の種類を制限していると批判。具体的には、AI規制法には性別・人種・民族といった偏見が含まれるものの、高齢の労働者や障害者に対する差別が含まれていないのは問題だとしています。

ギブンズ所長は「私の最大の懸念は、政策立案者にもっと多くのことを求めるべきなのに、これ(ニューヨーク市のAI規制法)が国家レベルで普及するAI規制法のひな形になってしまうことです」とも語りました。

なお、ニューヨーク市の関係者によると同市のAI規制法は「執行可能とするために範囲を狭めたものになった」とのこと。ニューヨーク市の法律の施行に尽力した評議会およびニューヨーク市消費者および労働者保護局は、公益活動家やソフトウェア開発企業を含む多くの関係者の意見を取り入れて法律の策定を進めてきました。そのため、関係者は「ニューヨーク市の目的はイノベーションと潜在的な害との間のトレードオフを比較検討することにある」と述べています。

ただし、MicrosoftやSAP、Workdayなども所属する業界団体のビジネス・ソフトウェア・アライアンスは、AI規制法のために独立したAIテストをの要件を策定することは「不可能である」と言及。なお、ビジネス・ソフトウェア・アライアンスはこの理由を「テスト環境が依然として進化し続けており、企画や専門規制当局と結びつきが欠けているから」と説明しています。

雇用や採用といった人生に影響を与える可能性のあるアプリケーションでは、「決定がどのように行われたのか」について説明を受ける権利があります。しかし、ChatGPTをはじめとするAIツールはますます複雑化しており、「説明可能なAI」という目標を達成できなくなる可能性があると一部の専門家は述べています。

「アルゴリズムがどのように機能するかではなく、アルゴリズムの結果に焦点が当てられています」と、職場・医療・金融におけるAIアプリケーションの安全な使用のための認定を開発しているResponsible AI Instituteでエグゼクティブディレクターを務めるアシュリー・カソバン氏は述べました。