Meta AIが10代の自殺・自傷リスクを検知して保護者に通知する機能を導入、危険な会話を見つける専用AIも開発

Metaは2026年7月16日、10代の利用者がMeta AIとの会話で自殺や自傷を考えている兆候を示した場合にInstagramのペアレンタルコントロール機能を利用する保護者へ通知する機能の提供を開始したと発表しました。

Alerting Parents if Teens Show Signs of Distress in Conversations With Meta AI
https://about.fb.com/news/2026/07/keeping-parents-informed-teens-distress-conversations-meta-ai/

子どものAI利用は増えており、家族や学校の先生には話しにくい悩みをAIに打ち明けたり、深夜に気持ちが落ち込んだ際にAIへ相談したりする場面において、大人が子どもの危険なAI利用に気付けない可能性は十分にあります。Metaは10代が支援を求めてAIを使うケースが増えているとして、「安全な応答だけでなく現実の世界で支えてくれる人につなぐ必要がある」と説明しています。

Meta AIは従来から、10代の利用者が自殺や自傷を考えていると受け取れる発言をした場合、相談窓口を案内した上で保護者やカウンセラーなど信頼できる大人へ連絡するよう促していました。しかし、本人に促すだけでは本人が案内に従わなければ保護者が状況を把握できないという問題がありました。

Metaは2026年2月、Instagramで自殺や自傷に関係する言葉を短時間に繰り返し検索しようとした10代について、保護者へ通知する機能を発表しました。

自殺・自傷行為に関するトピックを子どもが繰り返し検索していたら親に警告を送るシステムをInstagramが導入 - GIGAZINE

2026年4月には、直近7日間に10代の利用者がMeta AIに質問した話題の大まかな分類を保護者が確認できる「Insights」タブも提供しています。

今回の変更では検索行動や話題の分類から一歩踏み込み、Meta AIとの会話内容から危険の兆候が見つかった場合に通知するというわけです。

通知が必要な会話を見つけるため、Metaは自殺や自傷への言及を含む会話を識別する専用のAIシステムを開発しました。直接的な発言だけでなく、遠回しな表現であっても、自殺や自傷への明確な言及が読み取れる会話が検知対象になるとのこと。判断基準は保護者や専門家の意見を基に作成されています。

ただし、AIが危険だと判断しただけで保護者へ自動送信されるわけではありません。通知が保護者に大きな不安を与える可能性があるため、検知された会話は通知前に人間の担当者が確認するとのこと。また、意図を明確に判断できない場合は安全を優先して通知するため、実際には危険がないケースでも保護者へ連絡が届く可能性もあります。通知には、10代の利用者と自殺や自傷について話し合う際に役立つ専門家作成の資料も添えられます。

通知機能は今回の発表に合わせて、アメリカ、イギリス、オーストラリア、カナダのInstagramのペアレンタルコントロール機能を利用する保護者向けに提供が始まりました。Metaは2026年末までに世界各地の保護者へ提供範囲を広げる予定です。

また、Meta AIとの会話から自殺が差し迫っていると判断された場合、年齢を問わず緊急対応機関へ連絡する仕組みも開発しています。FacebookとInstagramでは以前から、自殺の危険性が高いと判断される投稿を把握した際に緊急対応機関へ連絡しており、2025年には世界で1万9000件を超える情報提供を行ったとのことです。

Meta AIの応答内容についても、10代の心の健康を専門とする75人以上の臨床家が数百件の回答を検証しました。相談窓口を案内するだけで会話を急に打ち切るのではなく、利用者の感情を受け止めながら現実の支援へつなげるよう改善を進めるとしています。保護者が選択できる厳格な「Limited Content」設定もMeta AIへ拡張され、回答を控える質問や依頼の範囲が広がるとのこと。Metaは検知精度を改善しながら運用状況を監視し、通知基準が適切かどうかを引き続き確かめると述べています。