Instagramに「年齢詐称ユーザーをAIで検知する機能」が追加される予定

Instagramが「adult classifier(成人分類器)」と呼ばれる年齢推測ツールを開発していることが明らかになりました。成人分類器は未成年ユーザーの検出を目的としており、AIを用いてユーザーのプロフィールや投稿内容などを精査して「18歳以上か否か」を分類するそうです。

Meta Plans to Use AI to Catch Teens Lying About Age on Instagram - Bloomberg
https://www.bloomberg.com/news/articles/2024-11-04/instagram-plans-to-use-ai-to-catch-teens-lying-about-age

Instagramなど複数のSNSを手がけるMetaは「子どものメンタルヘルスに悪影響を与える」「子どもの保護施策が不十分」といった批判にさらされており、子どもに対する影響を巡ってアメリカの複数の州の司法長官から提訴されたり、欧州委員会の調査を受けたりしています。Instagramは子どもを保護する施策として「ティーンアカウント」と呼ばれる仕組みを導入して未成年ユーザーの投稿公開範囲や使用時間制限を設けていますが、年齢確認はユーザーの自己申告に頼っているため「成人であると偽る未成年ユーザー」には対応できないという問題がありました。

Instagramが16歳未満のアカウントを「非公開」に強制変更、メッセージの送信制限や22時～7時にスリープモードになるなど未成年向け「Teen Accounts」機能の詳細とは？ - GIGAZINE

BloombergがMetaの青少年および社会影響担当製品管理ディレクターを務めるアリソン・ハートネット氏から得た情報によると、Instagramは「成人であると偽る未成年ユーザー」を検出するために「adult classifier(成人分類器)」と呼ばれる年齢推測ツールを開発しているとのこと。

成人分類器はユーザーの「プロフィール」「フォロワーリスト」「やり取りするコンテンツ」「友達による『誕生日おめでとう』などの投稿」をAIで精査し、ユーザーを「18歳以上」か「18歳未満」に分類します。そして、「18歳未満」に分類されたアカウントは自己申告の年齢に関係なく「ティーンアカウント」に指定されます。

また、誤って未成年と分類された成人ユーザーはInstagram運営に対して取消しを申請できるとのことですが、取消し申請機能は記事作成時点では開発中の段階とされています。

なお、Metaは「アプリごとに年齢確認するのではなく、アプリストアで年齢確認することでプライバシーを保護しつつ未成年ユーザーを保護できる」と主張しています。

Parenting in a Digital World Is Hard. Congress Can Make It Easier. | Meta
https://about.fb.com/news/2023/11/online-teen-safety-legislation-is-needed/