テクノロジーが貧しい人々を苦しめる「デジタル・ディストピア」とは？

by stevanovicigor

イギリスの大手一般新聞The Guardianが、アメリカ・オーストラリア・さらにはインドで同時多発的に発生している「デジタル福祉国家化」が、貧しい人々に犠牲を強いるディストピアと化していると指摘しています。

Digital dystopia: how algorithms punish the poor | Technology | The Guardian
https://www.theguardian.com/technology/2019/oct/14/automating-poverty-algorithms-punish-poor

国連特別報告者でニューヨーク大学の法学教授でもあるフィリップ・アルストン氏は、国連に提出した特別報告書の中で「世界各国が人工知能(AI)などのテクノロジーを駆使した福祉システムの導入を急ピッチで進めている」と指摘。失業手当や子育てを支援するための給付金、住居や食べ物の購入費を賄うための補助金の支給決定などが人間のケースワーカーからAIに置き換えられていることを明らかにしました。

福祉サービスのデジタル化を進めている各国の福祉当局は、「最新のテクノロジーが給付金の支払いを迅速化し、効率と透明性を高め、無駄を減らして納税者の負担を軽減し、人間のケースワーカによるミスや差別を根絶し、限られた資源を最も必要としている人に確実の届ける」と、デジタル化のメリットを強調しています。

by Thomas Meier

一方で、貧しい人々を救済するどころか、逆に苦しめる結果となっている事例も報告されています。アメリカのイリノイ州社会福祉局(IDHS)は、2017年10月に公的支援の申請者を管理するIntegrated Eligibility System(統合受給資格システム)を大幅に改修し、収入などから公的支援の受給者資格を正確に判断できるよう機能を拡充しました。その結果、多数の公的支援申請者が給付金をもらいすぎていたことが次々と発覚。2010年に年間7699件だったIDHSの「過払金返還請求」は2017年には3万2881件に激増しました。

食べ物を買うお金にも窮する人に対する給付金は往々にして急を要するため、福祉制度の審査手続きはしばしば簡略化されることがあります。その結果として発生した過払金を返還してもらうことは、制度の公平さを保つ上では必要なことですが、中には「30年以上前に当時10代だった娘がタコベルでアルバイトした稼ぎが申請漏れになっていた」として過払金が請求されたというケースもあるとのこと。こうした大昔の過払金が「ゾンビ債務」となって、イリノイ州に住む高齢の貧困家庭を苦しめているとThe Guardianは指摘しています。

by Leroy Skalstad

同様の事態はオーストラリアでも発生しており、オーストラリア政府が実施している高齢者や失業者、障害者らを対象とした福祉サービスCentrelinkの自動債務回収手続きはrobo-debt(ロボ債務)と呼ばれています。2019年10月にはCentrelinkがスーパーマーケットのカート運びをして働く知的障害者の男性に1万4500豪ドル(約108万円)を請求して問題となったほか、ロボ債務の不当性を訴える弁護士のピーター・ゴードン氏を中心とした集団訴訟も発生しています。

インドでは死者が発生するケースも報告されています。インドの福祉サービスは12桁の国民識別番号制度であるアドハーで個人を管理していますが、インドのドゥムカに住むMotka Manjhi氏は、システムの不具合により指紋認証が無効になってしまい、米などの食糧配給を受けられなくなってしまいました。

その結果、Manjhi氏の一家は近隣の人たちから食べ物を分けてもらったり、市場に行って大枚をはたいて食料を調達する必要に迫られるようになりましたが、それだけではとても足りず食事の回数を減らすことを余儀なくされました。その後、Manjhi氏は2019年5月22日に自宅の前で倒れているのが発見され、搬送先の病院で死亡が確認されました。死因ははっきりとはしていませんが、家族はManjhi氏の死因は飢えだと確信しているとのことです。

by Kasun Chamara

The Guardianは「システムのエラーは必ず発生します。その時、貧しい人々が1人の人間ではなく12桁の番号として扱われているとしたら、そのエラーは致命的な結果をもたらすでしょう」と指摘し、自動化された福祉システムの危険性を強調しました。