Microsoftが「リアルタイムAI」を実現するディープラーニング用プラットフォーム「Project Brainwave」発表

Microsoftが高性能チップに関するシンポジウム「Hot Chips」で、「リアルタイムAI」実現のためのシステムとして「Project Brainwave」を発表しました。

Microsoft unveils Project Brainwave for real-time AI - Microsoft Research
https://www.microsoft.com/en-us/research/blog/microsoft-unveils-project-brainwave/

Intel Delivers ‘Real-Time AI’ in Microsoft’s New Accelerated Deep Learning Platform | Intel Newsroom
https://newsroom.intel.com/news/intel-delivers-real-time-ai-microsofts-accelerated-deep-learning-platform/

Microsoft announces Project Brainwave for real-time artificial intelligence
https://www.neowin.net/news/microsoft-announces-project-brainwave-for-real-time-artificial-intelligence

MicrosoftではProject Brainwaveのプラットフォーム構築にあたって、これまで数年にわたって展開してきたFPGAインフラストラクチャーを活用しています。FPGAは「Field-Programmable Gate Array」の略で、再プログラミング可能な集積回路のこと。Microsoftではデータセンターに高性能FPGAを直接接続することで「CPUによるリクエスト処理」を省き、高いスループットを実現しました。

また、FPGAと統合されたソフトウェアDNN処理ユニット(DPU)を搭載。通常、DPUは設計時に演算子やデータタイプを選択するため柔軟性に欠けますが、Project Brainwaveでは必要なデータタイプを選べるよう設計してあり、柔軟性が持たせてあるとのこと。

組み込んだソフトウェア・スタックは、一般的なディープラーニングフレームワークをサポート。「Microsoft Cognitive Toolkit」とGoogleの「Tensorflow」には対応済みで、今後は他のものにも対応していく予定。

IntelのStratix 10を用いて、リクエストを1ミリ秒未満で実行したデモでは39.5TFLOPSの性能を記録。10サイクルに1度マクロ命令が出されることによって、1サイクルで13万回以上の演算処理を維持できるとのこと。

Microsoftではシステムをこれからの数四半期にわたって改良し、パフォーマンス向上を目指すと語っています。