顔認識検索エンジン「PimEyes」は子どもの顔の検索をブロックしている

顔認識技術を利用して、ネットで公開されている写真に写っている人のことを検索できるサービス「PimEyes」が、子どものプライバシーへの懸念から、未成年者の被写体の検索試行をブロックしていることがわかりました。ギオルギー・ゴブロニゼCEOは「傷つけない」というPimEyesの基本方針に基づく施策だと説明しています。

Face Search Engine PimEyes Blocks Searches of Children’s Faces - The New York Times
https://www.nytimes.com/2023/10/23/technology/pimeyes-blocks-searches-childrens-faces.html

Massive facial recognition search engine now blocks searches for children’s faces - The Verge
https://www.theverge.com/2023/10/23/23929271/pimeyes-facial-recognition-ai-children-privacy

PimEyesは顔認識技術を用いて写真内の人物を検索するサブスクリプションベースのサービスで、データベースには約30億人の顔が登録されており、1日に11万8000件の検索を処理可能だとのこと。

PimEyes: 顔認識検索エンジンと逆引き画像検索
https://pimeyes.com/ja

主に、自分が写っている未知の写真がネット上にアップされていないかどうかを確認することでプライバシーを取り戻せるとうたっていますが、大手紙・The New York Timesのカシミール・ヒル氏は、ユーザーが「自分自身」だけを検索しているという技術的保証はないと指摘しています。

たとえば、子どもを持つ親がPimEyesを使い、自分たちが知らなかった子どもの写真をインターネット上で見つけるケースもあるとのこと。これは裏を返すと、無関係な人に悪用される恐れがあるともいえます。

サービスは2021年から本格的に行われて、「子どもの顔の検索をブロックする」というのは当初からロードマップに載っていたものですが、施策に本腰を入れたのは、AIを利用した子どもへの脅威についての記事がThe New York Timesに掲載された2023年10月に入ってからだとゴブロニゼCEOは語っていて、すでに未成年者の顔を検索する不適切な使用があったとして、200以上のアカウントを停止したとのこと。なお、子どもの権利問題に取り組む団体による検索は引き続き許可されています。

ブロックの方法は、年齢検出AIを用いて写真の被写体が未成年者かどうかを識別することで行われているのですが、14歳未満の子どもを対象にした場合は効果があったものの、中高生になってくると精度の問題が出てくるとのこと。

The New York Timesがドラマ「フルハウス」で知られる女優のアシュレー・オルセンとメアリー＝ケイト・オルセンの子役時代の写真を用いたテストを行ったところ、カメラを直視した写真では検索はブロックされたものの、横顔で撮影された写真の場合には検索が可能でした。このことから、被写体の角度によっては未成年者かどうかを特定できないという弱点があることが指摘されています。