Microsoftがオープンソースの機械学習セキュリティフレームワークをリリース

機械学習は金融・医療・軍事などの分野で飛躍的な発展を遂げているというだけでなく、市民の生活にも大きな影響を与えています。しかし、Mircosoftは「機械学習に対する注目が高まっているにもかかわらず機械学習システムに対するサイバー攻撃対策は不十分」だとして、機械学習に対する攻撃を検出・対応・修正できる企業向けオープンフレームワーク「Adversarial ML Threat Matrix」をリリースしました。

Cyberattacks against machine learning systems are more common than you think - Microsoft Security
https://www.microsoft.com/security/blog/2020/10/22/cyberattacks-against-machine-learning-systems-are-more-common-than-you-think/

Microsoft and MITRE release framework to help fend off adversarial AI attacks | VentureBeat
https://venturebeat.com/2020/10/22/microsoft-and-mitre-release-framework-to-help-fend-off-adversarial-ai-attacks/

Microsoftは、2016年頃から商用機械学習システムを狙ったサイバー攻撃が急激に増加していることを確認しており、IT系市場調査企業大手のGartnerも、「AIを使ったサイバー攻撃に関して、トレーニングデータ汚染攻撃などの機械学習を対象とする攻撃は2022年までに全体の30％に達するだろう」という予測を発表しています。機械学習に関するサイバー攻撃の危険性は日々高まっているといえますが、一方で機械学習への攻撃に対する危機感は高まっておらず、(PDFファイル)Microsoftの調査によると、調査対象となった28社のうち25社が「機械学習システムのセキュリティツールを有していない」と回答しています。

こうした現状を打破するため、Microsoftは脆弱性識別子「CVE」を採番していることでも知られるアメリカ政府の支援を受けた非営利研究機関MITREなどと協力して、機械学習に関するオープンソースのセキュリティフレームワーク「Adversarial ML Threat Matrix」を公開しました。

GitHub - mitre/advmlthreatmatrix: Adversarial Threat Matrix
https://github.com/mitre/advmlthreatmatrix

「Adversarial ML Threat Matrix」はセキュリティ担当者を想定とした企業向けツール。機械学習システムに対する新たな脅威に対応するためのフレームワークを提供し、セキュリティ専門家の間で一般的に用いられている「MITRE ATT＆CKフレームワーク」と同種の構造を採用しているとのこと。MicrosoftとMITREは、本番環境で脆弱性と攻撃のセットを検証し、「Adversarial ML Threat Matrix」の効果を精査すると記しています。

Microsoftは機械学習に対する攻撃は重要な研究分野であるとして、トロント大学・カーディフ大学・カーネギーメロン大学などに所属する専門家からも意見を収集。さらに「Adversarial ML Threat Matrix」の公開に際して、「同フレームワークに関するフィードバックと貢献を募集しています」と述べ、同フレームワークの修正に用いる情報の提供をコミュニティに対して求めました。