人間には分からない微妙な加工でAIを混乱させて顔写真が勝手に利用されるのを防ぐ技術「Fawkes」が登場

by SAND Lab, University of Chicago

SNSやブログにアップした顔写真が第三者に勝手に収集され、個人情報とともにプロファイリングされることを防止する技術「Fawkes」が発表されました。匿名の抗議者の象徴的存在であるガイ・フォークスにちなんだ名前をつけられたこの技術を使用すると、顔写真に人間には分からないほど微細な加工を施し、顔認証システムのAIを混乱させて認識不能にすることができるとのことです。

Fawkes
http://sandlab.cs.uchicago.edu/fawkes/

This Tool Could Protect Your Photos From Facial Recognition - The New York Times
https://www.nytimes.com/2020/08/03/technology/fawkes-tool-protects-photos-from-facial-recognition.html

ネット上に画像を掲載すると、世界中の誰でもその写真にアクセスできるので、SNSに顔写真をアップロードする時などにはそのことを心に留めておく必要があります。しかし近年では、新興AI企業がネットから30億枚超の顔写真を収集し、個人情報などとともに警察に引き渡していた事例も報告されているため、AIの発達により予想もしないような方法で顔写真が利用されてしまうケースの増加が予想されています。

ネット上の30億枚超の顔写真から顔認証アプリを開発する「Clearview AI」にGoogle・YouTube・Venmo・LinkedInなどがデータの使用停止を求める - GIGAZINE

by Steven Lilley

「ネットにアップした顔写真が勝手に個人情報と一緒に収集されている」ことの実例が報告される - GIGAZINE

そこで、シカゴ大学でセキュリティを研究しているSAND Labは、個人でもAIによる顔写真の収集を防ぐことができるPC・Mac向けソフト「Fawkes」を開発しました。

以下は、実際にFawkesを使用して、女優のジェシカ・シンプソン(左)、グウィネス・パルトロー(中央)、俳優のパトリック・デンプシー(右)の顔写真を3枚ずつ加工して並べたもの。2枚の写真のうち左がもとの写真で、右がFawkesを使用したものですが、じっくり見てもどう違うのか分かりません。

by SAND Lab, University of Chicago

人の目には違いが分からなくても、AIには写真に映っているのが誰かまったく分からなくなってしまうとのこと。SAND Labが実際に、MicrosoftのAzure Face APIやAmazonのRekognition、中国公安当局も使用しているFace++といった最新鋭の顔認証技術でFawkesの効果を検証したところ、100％の確率で正確な認識ができなくなってしまったことが確認されました。

SAND Labは、Fawkesの仕組みについて「ディープラーニングには、入力データに小さな変更があるだけで、データを分類する過程が大きく変わってしまう敵対的サンプルという現象があります。Fawkesの基本的な仕組みは、敵対的サンプルが発生するのと同じメカニズムで描画することです」と説明しています。

なお、Fawkesは前述のとおり個人でもPCを使って利用する事が可能なのが特徴。SAND LabはGitHub上で技術者向けのソースコードを公開しているほか、Fawkes公式サイトでWindowやmacOS向けの実行ファイルを公開しています。

しかし、記事作成時点ではWindow向けの実行ファイル版を使用してもフリーズしてしまい、適切に画像を加工することができませんでした。実行ファイル版のバージョンはまだ「0.3」で、更新も頻繁に行われているとのことなので、今後のアップデートに期待したいところです。また、SAND Labは目下、Fawkesでの保護機能が実際に有効かを検証するためのプログラムも準備中としています。