上司が「アルゴリズム」に置き換わることは従業員にとって何が問題なのか？

上司との関係に悩んでいる労働者の中には、「上司が人間ではなくてアルゴリズムやAIだったら良かったのに」と思ったことがある人もいるはず。実際、近年では末端の労働者だけでなく管理職の仕事も自動化が進んでおり、UberのドライバーやUber Eatsの配達員は基本的にアルゴリズムの指示に従って労働しています。そんな「アルゴリズムの上司」が引き起こす問題について、イギリス・バース大学の社会政策科学部の博士課程に在籍するRobert Donoghue氏らが解説しています。

Horrible bosses: how algorithm managers are taking over the office
https://theconversation.com/horrible-bosses-how-algorithm-managers-are-taking-over-the-office-191307

1999年の犯罪コメディ映画「リストラ・マン」や2011年のブラックコメディ映画「モンスター上司」など、嫌な上司が登場するフィクション作品は数多く存在します。しかし近年では、ソフトウェアアルゴリズムやAIが採用候補者のスクリーニング、タスクの割り当て、労働者のパフォーマンス評価、解雇する従業員の決定といった管理職のタスクを担うことが増えているとのこと。

実際、Amazonでは一部の配送車にAI監視カメラを搭載し、ドライバーの一時不停止や脇見運転といった安全上の問題を検出していると報じられています。しかし、このシステムには誤作動も多いとのことで、AIの誤った判断が給与査定に影響することについて不満の声も上がっています。

Amazonは配送車にAI搭載カメラを設置してドライバーを24時間監視し始めている - GIGAZINE

by Trevis Rothwell

管理タスクをアルゴリズムに任せて人間では時間がかかるタスクを自動化することは、企業にとって大幅なビジネスコストの削減につながります。たとえば配車サービスを展開するUberの従業員数は数万人ですが、ドライバーや配達員を含めると500万人もの末端労働者が存在しており、これらを人間の手で管理することは困難です。そのためUberは労働者とのやり取りをアルゴリズムに任せることで、膨大な人数を管理することに成功しているとのこと。

また、AIシステムはビジネスを最適化する上でも有効です。Uberは地域ごとの利用状況や空車の数をリアルタイムで監視し、需要と供給のバランスから最適な利用料金を導き出す「ダイナミックプライシング」という価格変動システムを導入しています。これはアルゴリズムが乗客需要をリアルタイムで監視できるからこそ可能なシステムです。

しかし、アルゴリズムにはさまざまな問題があることも指摘されており、中でもジャーナリストや研究者によって話題にされやすいのが「アルゴリズムに存在するバイアス」です。たとえば、Amazonがかつて開発していた「採用候補者の履歴書を評価するAIシステム」には、男性を好み女性を不当に低評価するバイアスがあったため破棄されたことがわかっています。

Amazonの極秘AIツールが「女性蔑視だった」という理由で廃棄されていたことが判明 - GIGAZINE

他にも、大量のトレーニングデータによって訓練された機械学習アルゴリズムは、一体どのようなプロセスで結果を出力しているのかが不透明である点も問題です。たとえば、「Aという従業員を解雇する」という決定をアルゴリズムの上司が下した場合、その決定にバイアスが含まれていなかったかどうかを知ることは困難です。解雇プロセスの内訳がわからないことにより、従業員が「この解雇は不当だ」と申し立てて権力の乱用から身を守ることが難しくなってしまうとDonoghue氏は指摘しています。

また、Donoghue氏はアルゴリズムが雇用関係に導入されることにより、人間の上司が持っているはずの「部下に対する思いやり」が失われてしまうことも懸念しています。もちろん、すべての上司が部下へ思いやりを持って接しているわけではありませんが、少なくともアルゴリズムの上司が思いやりを持つ可能性はゼロです。効率を追求するアルゴリズムは、子育てに追われる従業員や就職したばかりで仕事に慣れていない新入社員に対して寛容ではなく、病気や障害に苦しむ従業員を見つけて解決策を探そうとすることもありません。

Donoghue氏は、「企業は管理アルゴリズムに大きな利益を見いだすかもしれませんが、利益を上げる必要性は従業員の苦しみを許容する理由にはなりません」と述べ、開発者や研究者、労働組合、政治家らはアルゴリズムが従業員に及ぼす影響について考慮する必要があると主張しました。