「メタバースでは従来のSNSよりもひどい情報操作や偽情報がはびこる」という指摘

コンピューターの中に構築された三次元の仮想空間やサービスである「メタバース」への注力を目指し、Facebookは2021年に社名をMetaに変更しました。Metaだけでなく複数の企業が注目するメタバースについて、アメリカのシンクタンクであるランド研究所が「メタバースは今後さらに悪化していくだろう」と指摘しています。

Facebook Misinformation Is Bad Enough. The Metaverse Will Be Worse | RAND
https://www.rand.org/blog/2022/08/facebook-misinformation-is-bad-enough-the-metaverse.html

ランド研究所は、今後のメタバースで起こり得るもっともらしいシナリオとして、以下を挙げました。

「ある選挙候補者が何百万人もの人々の前でスピーチを行っています。各視聴者は同じスピーチを聞いていると思っていますが、実際にはそれぞれわずかに異なるスピーチを流すこともメタバースなら可能です。候補者の顔を視聴者ひとりひとりに似せるように微妙に変更することで親近感を抱かせる、といったことも可能です。」

こういった操作が行われていたとしても、視聴者側がそれに気づくことはできません。実際、選挙の候補者の顔をデジタル上で操作することで、聴衆の反応を好意的なものに変更することが可能であることが明らかになっています。

スタンフォード大学の研究者が行った実験では、なじみのない政治家の顔を各有権者(被験者)に似せるように画像編集することで、人々が政治家に対してより好意的な評価を下すようになることが示されています。実験において、被験者の特徴の40％が候補者の顔に溶け込んでいたとしても、被験者は画像に手が加えられていることに全く気付かなかったそうです。

そのため、Metaのような企業が構築するメタバースは、既存のメディアでは想像できないレベルでユーザーの心理的および感情的な要素を操作可能になると、ランド研究所は指摘しています。

国防高等研究計画局(DARPA)でプログラムマネージャーを2期務めるなど、過去40年近くにわたり欺瞞(ぎまん)・偽情報・人工知能(AI)に関する問題に取り組んできたというランド研究所のランド・ウォルツマン氏は、「我々は、来るべき新しいメディア(メタバース)によってもたらされる脅威からユーザーを守ることができるには至っていません。仮想現実では悪意のある攻撃者が、古くから伝わる欺瞞と影響力という闇の芸術を新たな高みに引き上げることができるでしょう」と述べています。

そんなメタバースの特徴は「仮想世界にテレポートしたかのような感覚を得られる点」にあります。しかし、これがユーザーに害をおよぼす可能性もあるとのこと。メタバースがユーザーの感情を操作する上で活用するのは、「存在感」と「具現化」という2つの特徴です。

「存在感」は人々がコンピューターインターフェイスを介さずに直接コミュニケーションをとっていると感じることを意味し、「具現化」はユーザーが自分のアバターや仮想体を実際の身体であると感じることを意味します。

特に、VRを使ってメタバースに入り込めばボディランゲージや視線、ジェスチャー、顔の表情といった非言語サインを用い、意図や感情を伝えることが可能となります。そのため、VRとメタバースを用いれば従来のメールやSNSのようなテキストベースのコミュニケーションをはるかにしのぐ強度の高いコミュニケーションをとることが可能です。

VRとメタバースを使えば対面でのコミュニケーションレベルの強度の高いコミュニケーションをとることができますが、これについてランド研究所は「これは良いニュースでもあり、恐ろしいニュースでもある」と言及。これは上記のようなテクニックを用いることで、メタバース経由でユーザーを欺瞞や偽情報に陥れることができるためです。これまでにも存在した個人を操作するテクニックとメタバースを組み合わせることで、ユーザーを欺瞞に陥れたり偽情報でだましたりと、簡単に情報操作することが可能になると指摘しているわけ。

そして、メタバース上での体験をユーザーはそのまま現実世界での物事の理解とシームレスに融合することになるとランド研究所は推測しています。つまり、メタバース上でユーザーの消費する情報を操作し、ユーザーの感情を操作することで、メディアは意のままにユーザーの世界の見方や理解の仕方、果ては行動まで変えることが可能となるわけです。

このようなテクノロジーが完全に実現するにはまだまだ時間がかかりますが、今の段階からメタバースのもたらす恩恵と脅威を認識し、脅威に備えることは重要であるとランド研究所は指摘しています。

メタバースのもたらす脅威に備えるための最初のステップとして、ランド研究所は「VRの使用と効果に関する既存の広範な心理学の文献を包括的に研究・評価し、悪意のある操作目的でVRがどのように使用されるかを検討すること」を挙げています。既存の感情操作テクニックの種類について解説し、メタバースで応用される可能性のあるテクニックを調査する必要があるわけです。この種の研究は記事作成時点では行われていないため、「完全に理解していないものから身を守ることはできません」と指摘されています。

また、この種の感情操作テクニックが利用されていることを検出する技術を開発する必要があるともランド研究所は指摘。具体的には、メタバース内で感情操作テクニックを検出し、ユーザーに注意喚起してくれるキャラクターを作成することが推奨されています。