サイエンス

AIは人間より人気の高い「富の再分配システム」を作成できるという研究結果


人間社会は裕福な人々と貧しい人々の所得格差を埋めるため、税金徴収と社会保障制度、公共事業などを通じて富の再分配を行っていますが、再分配の方法については「不平等だ」「公正ではない」といった不満の声も上がりがちです。イギリスの人工知能開発企業・Deepmindやエクスター大学、オックスフォード大学などの研究チームが発表した新たな論文では、「AIが作成した富の再分配システム」が人間の作ったシステムよりも多くの支持を受けたことが示されました。

Human-centred mechanism design with Democratic AI | Nature Human Behaviour
https://www.nature.com/articles/s41562-022-01383-x

AI Seems to Be Better at Distributing Wealth Than Humans Are, Study Hints
https://www.sciencealert.com/ai-could-be-be-better-at-distributing-wealth-experiment-suggests

富の再分配は階層の固定化を避けて公平性を増し、人間活動に活力をもたらすとして重要視されています。しかし、公正かつ人々の支持を得られる再分配システムを考案することは、政治学者や経済学者にとっても難しい課題です。そこで研究チームは、人々の相互作用をトレーニングデータに組み込んだAIに富の再分配システムを作成させ、人々からどれほどの評価を得られるのかを調べました。

研究チームは「Democratic AI(民主的AI)」と名付けたAIエージェントを評価するため、「公共財ゲーム」という投資演習を行いました。公共財ゲームでは、複数の参加者が持っている資金を「公共ポット」にいくら投資するのかを決定し、投資した資金に利息が付いて各参加者に再分配されます。


今回の研究では、人間が考案した「厳格な平等主義に基づく再分配(投資した金額に関係なく全参加者に平等に公共ポットの資金を分配する)」「リバタリアン的な再分配(投資した金額に比例して公共ポットの資金を分配する)」「リベラルな平等主義に基づく再分配(手持ちの資金のうち何割を投資したかに比例して公共ポットの資金を分配する)」という3つの再分配システムと、民主的AIが作成した「Human Centered Redistribution Mechanism(HCRM/人間中心再分配メカニズム)」という再分配システムを比較しました。HCRMは人間のプレイヤーと仮想エージェントからのフィードバックデータを使用し、ディープラーニングを利用して作成されたとのこと。

研究チームは、人間が考案した3つの再分配システムおよびHCRMを導入した公共財ゲームを人間の被験者にプレイしてもらい、どのシステムが最も好ましいかを評価してもらいました。その結果、人間が考案した再分配システムよりもHCRMの方が人気が高いことが判明。研究チームは、「AIは初期の富の不均衡を是正する仕組みを発見し、フリーライダーを制裁し、多数決に勝利することに成功しました」と述べています。

今回の研究結果は、AIが物理学や生物学に関する問題を解決するだけでなく、公正かつ繁栄する社会の実現といったオープンエンドな課題についても、有用なツールとなり得る可能性を示唆しています。「私たちは代表者の選出や公共政策の決定、法的な判決などに使われているのと同様の合意形成のための民主的手段を、価値を一致させるために利用可能であることを示しています」と、研究チームは述べました。


なお、研究チームは今回発表した民主的AIにおけるさまざまな問題点も指摘しています。まず、民主的AIにおける「価値の一致」は多数決に基づいているため、そもそも民主社会の中に多数決で支持されている不平等や偏見が存在する場合、AIがさらにこれらの問題を悪化させる危険があるとのこと。また、実験ではプレイヤーに対し「HCRMはAIによって考案された」と伝えられていませんでしたが、もしこの情報を伝えていた場合、AIに対する不信感から投票行動が変化した可能性があります。

研究チームは今回の結果について、「自律的なエージェントが人間の介入なしに政策決定を下す『AI政府』の一形態への支持を表明するものではありません」「民主的AIは、潜在的に有益なメカニズムを設計するための研究的方法論であり、公共の場にAIを展開するためのレシピではないと考えています」と述べました。

この記事のタイトルとURLをコピーする

・関連記事
広く用いられているAIを採用したロボットアームが女性や有色人種を差別してしまったという研究結果 - GIGAZINE

個人の性格が「富の公平な分配」についての考えに影響しているとの研究結果 - GIGAZINE

人々は億万長者のグループに厳しいが1人の億万長者には甘い - GIGAZINE

「富の不平等は必然的に生じる」と数理モデルで証明可能 - GIGAZINE

都市は大きくなるほど不平等が拡大し「住民の収入より住居費の方が上昇スピードが速い」状態になることが判明 - GIGAZINE

「アメリカでは5200兆円以上を上位1%の大富豪が下層から巻き上げてきた」という研究結果 - GIGAZINE

グループが互いに協力して何かを成し遂げるにはどんなコミュニケーションが有効なのか? - GIGAZINE

「勝ち組」は自分の強さを「運や偶然ではなく実力によるもの」と思い込みやすいのか、トランプゲームで実験した結果は? - GIGAZINE

in ソフトウェア,   サイエンス, Posted by log1h_ik

You can read the machine translated English article here.