生徒の自殺願望を察知して教師や親に知らせるAIシステム「GoGuardian Beacon」

いろんなことに行き詰まって自殺を考えてしまう生徒を早期に発見し、対策を取れるようにするための通報システム「Beacon」がアメリカの学校で取り入れられています。

Introducing GoGuardian Beacon. | GoGuardian
https://www.goguardian.com/beacon.html

School internet filter maker launches suicide risk detector
https://www.engadget.com/2018/08/26/goguardian-beacon-suicide-prevention-filter-schools/#/

BeaconはAIを使って生徒のネット上の活動内容から自殺の兆候を検知するシステム。開発元のGoGuardianは学校向けにネットのフィルタリングソフトやChrome Book向けソフトウェアを開発・提供している企業で、すでに全米の4000以上の校区で導入され、530万人の生徒を対象に稼働しているとのこと。

Beaconは各学校が所有するコンピューターにセットアップされ、校内のPCで生徒がインターネットを閲覧する状況をAIがモニタリングすることで、自殺の兆候を早期に発見するという仕組みです。各生徒のブラウジング内容をもとにBeaconは生徒の自殺に関連する動向を「General suicide research(一般的な自殺に関する検索)」「general suicide ideation(一般的な自殺に関する思考)「help and support(補助と支援)「self harm and active planning(自傷行為と積極的な計画)」の4つに分類します。

この分類が行われる際にはAIによる判断が行われ、例えばネットで「ロープの結び方」を検索した場合は「積極的な計画」になる一方、「年間の自殺者動向」という検索は「一般的な自殺に関する検索」に分類されるようになっているとのこと。

実際に生徒のアクティビティに対する分類が行われ、危険な状況と判断された場合は教師や学校のカウンセラーに対して通知が行われるように設定することが可能。さらに、生徒の個別情報や対応の対応状況などを記録しておくことも可能であるとのことです。

さらに、設定によっては親や保護者に自動で通知が行われるようにすることも可能です。

GoGuardianのCEOであるAdvait Shinde氏によると、Beaconは過去1年間にわたってテスト運用が行われており、週あたり2000件が自殺の兆候として検知されているとのこと。そして実際に学校と両親が対応を行ったことで、生徒の自殺を寸前で食い止めたケースも存在しているとのことです。