AIの信頼性をAI自身に評価させる技術が開発される

人工知能(AI)は新型コロナウイルス感染症をせきの音から検知したり、人間と同レベルのテキストを生成したりと、さまざまなシチュエーションで活用されています。そんなAIの導き出した計算結果が正しいかどうかを、AI自身に判断させる技術が新たに開発されました。

Deep Evidential Regression
(PDF)http://www.mit.edu/~amini/pubs/pdf/deep-evidential-regression.pdf

A neural network learns when it should not be trusted | MIT News | Massachusetts Institute of Technology
https://news.mit.edu/2020/neural-network-uncertainty-1120

Artificial Intelligence Is Now Smart Enough to Know When It Can't Be Trusted
https://www.sciencealert.com/neural-networks-are-now-smart-enough-to-know-when-they-shouldn-t-be-trusted

AIは自動運転車など、命の危険にかかわる分野にも応用されているため、AIの計算結果の信頼性を評価することは非常に重要です。そこで、AI自身にAIの計算結果の信頼性を評価させるシステムを考案したのが、MITコンピュータ科学・人工知能研究所(CSAIL)のアレクサンダー・アミニ氏。アミニ氏の開発した信頼性評価システムは「Deep Evidential Regression」と名付けられており、同氏は「我々はAIが間違った判断をしていることをAI自身に認識させることを目指しました。1％の間違いを効率良く、確実に検出することを目標としたのです」と語っています。

これまでにもAIの信頼性を評価するシステムは存在しており、システムにAIが活用される事例も存在しました。しかし、どの既存のシステムも信頼性を評価するために膨大な時間を必要としています。一方で、「Deep Evidential Regression」は高速に信頼性を評価することが可能で、AIの計算結果と同時にその信頼性を評価することができます。

「Deep Evidential Regression」の研究段階のテストでは、自動運転技術に用いられると想定し、画像の奥行きを判断するAIを用い、計算結果と同時に信頼性の判断結果を出力しました。研究に用いたAIは既存のAIと同程度の精度で奥行きの判定に成功。さらに、AIが奥行きの計算結果を誤った際、同時にAIはその計算結果が「信頼性が一番低い」と出力していたそうです。つまり、AIは計算結果と信頼性の評価を同時に高精度に行うことに成功していたというわけ。

さらに、「Deep Evidential Regression」を搭載した奥行き認識AIを屋内の画像でトレーニングし、屋外で使用したところ、AIは「学習したデータを適用できない」と警告を出しました。これはAIが「普段と異なる」状態を認識したということなので、この技術を「医療現場で異常を発見する」ことなどに用いることも考えられます。

CSAILのコンピューター科学者ダニエル・ラス氏は「『Deep Evidential Regression』は多様なAIに適用でき、学習モデルを使用するAIの評価に使用して信頼性を評価することで、そのAIを使用した際に発生するエラーの量や、欠落しているデータを明らかにできる可能性があります」と語っています。

「AIは医療現場や車の自動操縦など、人間の命に関わる分野でも多く使われています。そのため、AI自身がその計算結果の信頼性を評価することは重要です」とアミニ氏は語りました。