不正な顔認識を阻止するAIモデル「カメレオン」が開発される

顔写真に特殊なプライバシーマスクを施すことで、顔をスキャンしても顔写真を特定できないようにする技術「Chameleon(カメレオン)」をジョージア工科大学の研究者らが開発しました。

[2407.13975] Personalized Privacy Protection Mask Against Unauthorized Facial Recognition
https://arxiv.org/abs/2407.13975

AI Model Creates Invisible Digital Masks to Defend Against Unwanted Facial Recognition | Research
https://research.gatech.edu/ai-model-creates-invisible-digital-masks-defend-against-unwanted-facial-recognition

Meet 'Chameleon' – an AI model that can protect you from facial recognition thanks to a sophisticated digital mask | Live Science
https://www.livescience.com/technology/artificial-intelligence/meet-chameleon-an-ai-model-that-can-protect-you-from-facial-recognition-thanks-to-a-sophisticated-digital-mask

顔認証でロックを解除するiPhoneの「Face ID」など、顔認識技術は日常生活で当たり前のものとなっています。しかし、許可していないのに顔をスキャンされ、インターネット上に存在する顔写真を検索されて特定されるなどの事例も増えており、ストーカー行為や詐欺につながる可能性さえあります。

こうした不正な顔認識を防ぐため、ジョージア工科大学の研究者らが開発したAIモデルが「カメレオン」です。カメレオンは、顔写真に「プライバシーマスク」と呼ばれる編集を加え、顔認識を困難にするというものです。

カメレオンは人間の数枚の顔写真をもとに「P-3マスク」というプライバシーマスクを作成します。このマスクを適用した顔写真は写った本人とは結びつかなくなり、誰かが本人の顔をスキャンしても顔写真を特定することはできなくなります。

画像にプライバシーマスクを施すという技術は目新しいものではありませんが、既存の技術はしばしば画像が不鮮明になったり、画質が低下したりするという欠点があります。カメレオンはこうした欠点を克服するいくつかの特徴を備えています。

1つ目は、1人の人間ごとに1つのP-3マスクを作成するという点です。既存の技術では写真1枚につき1つずつプライバシーマスクを作成していましたが、これでは非効率的でした。プライバシーマスクを人間ごとに作成することで、プライバシーを即座に保護し、また限られたコンピューティングリソースを効率的に使用することも可能にするそうです。

2つ目は「知覚の最適化」と呼ばれる最適化の手法です。これは、プライバシーマスクを加えることによる画像の劣化を自動で防ぎ、品質を保つという役割があります。

カメレオンの開発を主導したリン・リュー教授は、「カメレオンのように、プライバシーを保護した上でデータ共有と分析を行う技術は、AIのガバナンスと責任ある使用を促進し、科学とイノベーションを刺激するのに役立ちます」と述べました。

カメレオンの開発に携わったジョージア工科大学の博士課程学生、ティアンシェン・フアン氏は「生成AIモデルの学習に使われる画像を保護するために、カメレオンを応用したいと考えています。画像が同意なしに学習されるのを防ぐことができます」と語り、カメレオンの手法を顔写真の保護以外にも使いたいとの希望を示しました。