誤情報に対抗するための判断材料を提供する「コンテキスト化エンジン」構想

新技術が情報エコシステムに不可逆的な害を及ぼさないようにすることを目的とした団体「Thoughtful Technology Project」の創設者が、「検索エンジンは素晴らしい技術だが、そのままではまだ十分ではない」という考えから、「Contextualization engines(コンテキスト化エンジン/文脈解析エンジン)」を提唱しています。

‘Contextualization Engines’ can fight misinformation without censorship | by Aviv Ovadya | Apr, 2021 | Medium
https://aviv.medium.com/contextualization-engines-can-fight-misinformation-without-censorship-c5c47222a3b7

提唱者のAviv Ovadya氏は、2000年代に変革をもたらした検索エンジンと、2010年代の変革をもたらしたレコメンデーションエンジンが、ともに「発見」に焦点を合わせ、関連性に依存するものであることから、誤情報への対処が十分ではないと前置き。必要になってくるのは、出会ったメディアをすばやく「コンテキスト化」するのに役立つツールであると主張しています。

「コンテキスト化」は、文や言葉が文脈の中でどういった役割を果たしているのか、どういう意味を持つのか理解することを指しています。

Ovadya氏の考えるコンテキスト化エンジンの理想は、記事のリンクや動画、ミーム画像、音楽ファイル、PDFなど、あらゆるメディアオブジェクトを対象として、アプリから1～2回タップするだけでコンテキスト化してくれるというもの。「これはどのくらい意味があるのか」「自分が知っていて気にかけていることとどのように関連するのか」といったことをユーザーがわかるようにしてくれるわけです。

コンテキスト化のために構築されたシステムは、メディアリテラシーの補助だけではなく、ファクトチェッカーが何に注目すべきか判断するための材料を提供したり、誤情報に対する過激な反応などを回避するための感情リテラシーのサポートにも役立てたりされるとのこと。

このコンテキスト化システムは、外部から検閲や監視を行うものではなく、ユーザーが必要なときに文脈や信頼できる情報にアクセスできる場所を提供することで、誤情報に対抗するための「さらなる言論」というアプローチを体現するものだと、Ovadya氏は述べています。

こうした、強力な文脈解析を行うエンジンの開発は人工知能(AI)技術の進歩により実現の可能性が見えてきたものですが、一方で、AI技術の進歩は誤情報を広める恐るべき新技術実現の助けになるものでもあります。このためOvadya氏は、コンテキスト化能力の構築は「時間との勝負」と表現しています。

具体的に、コンテキスト化エンジンがどういう存在になるのか、Ovadya氏は「SNSでシェアされた記事が、怒りをかき立てるようなものだったら」と例を示しています。怒りに駆られたとしても、その内容が正しいのかどうかは調べるべきなのですが、自分で検証しなければならない手間を考えると、ついつい流れに身を委ねてしまいがちです。

そこにコンテキスト化エンジンがあれば、当該コンテンツを確かなソースのコンテンツと比較して、関連性のある記事や、他のメディアの結果を提供します。提供される方法は検索エンジンの検索結果のようなものだったり、チャットボットのようなものだったり、そのハイブリッドだったりと、いろいろ考えられます。もし、十分な関連性がないと判断された場合は、ユーザーに対して警告を出します。

やっていることは、Googleなどの検索エンジンと似たようなもののように思えますが、Ovadya氏によると、コンテキスト化エンジンでは「メディアオブジェクト」を分析して関連する可能性を確認する点や、第三者機関によるホワイトリスト認証などを使用して権威あるソースに焦点を当てる点、トピックに関して適切な情報を見つけられない場合に警告する点、ファクトチェッカーやその他の組織が調査を行う上で重要な情報を提供し、深い調査を行う人々をサポートする点などが異なるとのこと。

Ovadya氏は、ここで挙げた内容は可能性のほんの始まりに過ぎず、「SIFTメソッド」の他の部分のサポートもできるかもしれないと述べています。SIFTメソッドは4つの言葉の頭文字を取って名付けられています。

・Stop(立ち止まる)：コンテキスト化エンジンは、ユーザーがいったん立ち止まって、コンテンツに対する自分の感情的な反応に気づくよう促します。
・Investigate the source(ソースを調査する)：コンテキスト化エンジンは、「ソースが信頼できる」と判断できる情報がすでにある場合、なぜ信頼できるのかという理由をユーザーに示します。
・Find better coverage(よりよい記事検索)：より完全な機能を備えたコンテキスト化エンジンは、音声や動画の文字起こしを自動生成するだけではなく、コンテンツをよりよく理解しコンテキストに関連するソースを見つけるため、画像やキャプションも自動的に解釈します。
・Trace claims, quotes, and media to the original context(主張・引用・メディアのオリジナルを追跡)：コンテキスト化エンジンは、あらゆるコンテンツの出典元をウェブから探し出します。