「児童ポルノを検出するAI」で警察をトラウマから救う計画が進行中

by Tofros.com

イギリスの首都警察は押収したデバイスに犯罪の証拠となる写真が含まれているかどうか専用のソフトウェアに頼っているのですが、ソフトウェアに「砂漠の画像をヌードと判断する」という問題点があることから、児童ポルノの検出を含め繊細な作業は専門家らの手に頼って調査していました。しかし、上記のような作業は担当者を精神的に追い詰めるとして、新たに人工知能(AI)を利用した検出ソフトが開発されています。

Artificial intelligence will detect child abuse images to save police from trauma
http://www.telegraph.co.uk/technology/2017/12/18/artificial-intelligence-will-detect-child-abuse-images-save/

British Cops Want to Use AI to Spot Porn—But It Keeps Mistaking Desert Pics for Nudes
https://gizmodo.com/british-cops-want-to-use-ai-to-spot-porn-but-it-keeps-m-1821384511

インターネット上に児童ポルノなど不適切な画像が出回っていないかをチェックする役目はこれまで人間が行ってきましたが、1日何時間も殺人や児童ポルノの画像を見ることは担当者に精神的な負担を課します。Microsoftではオンライン安全担当者がPTSDになったとして会社を訴える事態に発展しました。

Microsoftのオンライン安全担当者が殺人や児童ポルノなどを見続けてPTSDになったとして会社を訴える - GIGAZINE

上記のような問題はMicrosoftだけにとどまらずGoogleやイギリスの首都警察においても同じでした。イギリスの警察では犯罪の証拠としての写真をチェックする必要があり、専用のソフトウェアが利用されてきましたが、状況に応じて画像に等級をつけていくような細かい作業は人間が行っています。

たとえば首都警察が使用しているソフトウェアは押収したデバイスから薬物・銃・金銭・ヌードといった画像を検出するものですが、精度にまだ問題があり、スクリーンセーバーとして利用されているような砂漠の画像を「ヌード」として検出することがあると首都警察のMark Stokes氏は語りました。そのため専門家が手動で確認する作業が必要になるわけですが、精神面での負担が大きく、これらの作業をAIを利用したソフトウェアに任せてしまおうというわけです。

by hbieser

また計画に伴い、犯罪の証拠写真といったデータはGoogleやMicrosoft、Amazonなどが提供するクラウド環境に移行する予定。2017年時点において首都警察はロンドンを拠点としたデータセンターを利用していますが、高画質の画像やムービーを扱うため、リソースを圧迫しているとのことです。クラウドに重要な証拠写真やムービーを移行することは、ハッカーの攻撃にあう可能性を考えると危険な行為に見えます。しかしStokes氏は、資金の限られている警察とは違いGoogleやAmazonといった企業は潤沢な資金で優秀な才能を雇うことができるため、データを保存する場所として適していると考えているとのこと。

新しいソフトウェアは「シリコンバレーの提供者」と協力して開発されており、2～3年後には実際の現場で使用される予定とされています。