2017年05月18日 11時01分ハードウェア

Googleの機械学習マシン「TPU」の第2世代登場、1ボード180TFLOPSで64台グリッドでは11.5PFLOPSに到達

Googleが現地時間2017年5月17日から開催中の開発者会議「Google I/O 2017」で、機械学習・人工知能(AI)開発に特化した専用マシン「TensorFlow Processing Unit(TPU)」の第2世代モデルを公開しました。第2世代TPUでは従来の「推論」だけでなく「トレーニング」まで処理でき、64台組み合わせると11.5PFLOPSという性能を誇ります。

Build and train machine learning models on our new Google Cloud TPUs
https://blog.google/topics/google-cloud/google-cloud-offer-tpus-machine-learning/

Google.ai
https://google.ai/

Googleの機械学習専用マシン「TPU」の第1世代モデルについては以下の記事で確認できます。

Googleが機械学習を爆速化する専用の「TPU」を数年前から極秘裏に作っていたことが明らかに - GIGAZINE

機械学習では「推論」と「トレーニング」という2つの処理が行われます。第1世代TPUでは「推論」の処理だけを行っていましたが、第2世代TPUでは推論に加えてニューラルネットワークの「トレーニング」まで処理可能です。

これが第2世代TPU。1ユニットに4つのプロセッサを搭載し、1ユニットあたり浮動小数点180TFLOPS(テラフロップス)という演算性能を誇ります。

巨大なヒートシンクを搭載。

1ユニットで180TFLOPSという演算性能を誇る第2世代TPUですが、ネットワークで相互接続してグリッド状態の「TPU Pods(TPUポッド)」を構成して性能を高めることが可能。

これはGoogleのデータセンターで実際に使用されている、64ユニットのTPUで構成されたTPUポッド。演算性能は驚異の11.5PFLOPS(ペタフロップス)だとのこと。TPUポッドは11.5PFLOPSを単一の機械学習トレーニングタスクに適用できるとGoogleは述べています。

Google I/O 2017の基調講演で、サンダー・ピチャイCEOは、「Googleが検索事業を始めたときに、従来からある計算処理のアーキテクチャを見直す必要があり、データセンターをイチから構築しました。そして、機械学習やAIの進化によってアーキテクチャの見直しが求められている今、再びAIファーストのデータセンターの構築に着手してます」と述べた通り、「AIファースト」の時代の到来に伴って、AIや機械学習技術に特化した専用ハードウェアとしてTPUを開発しているというわけです。なお、第2世代TPUはGoogle Compute Engineで導入され、発表と同時に利用可能になっています。

また、ディープラーニングをはじめとする機械学習技術が、医療用の画像解析、機械翻訳技術、自動ゲームプレイソフトなどさまざまな分野で大きなブレークスルーをもたらしている現状で、機械学習モデルのトレーニングに膨大な計算リソースが求められていることに鑑みて、Googleは研究者の開発速度を加速させるべく、「TensorFlow Research Cloud(TFRC)」を発表しました。

Research Blog: Introducing the TensorFlow Research Cloud
https://research.googleblog.com/2017/05/introducing-tensorflow-research-cloud.html

TFRCでは、推論・トレーニング処理が可能な第2世代TPUを使ったクラウドTPUへアクセスすることができ、180TFLOPSの演算性能と64GBの超広帯域幅のメモリアクセスを従来と同じTensorFlowプログラミングインターフェースで提供するとのこと。また、TFRCはアカデミックな研究に限らず、専門的な知識を持つ幅広い分野の研究者・開発者に提供され、研究者・開発者は複数のプロジェクトでTFRCの利用を複数回申請することもOKだとのこと。

なお、TFRCは機械学習の研究コミュニティ全体に利益をもたらすという理念に基づいて、TFRCリソースを利用する研究者・開発者は、論文やソースコード、ブログやオープンなメディアを通じて、機械学習で得た知見を公開することが求められています。

また、クローズドな研究開発にクラウドTPUを利用したい企業向けに、Cloud TPU Alphaプログラムも用意されており、以下のページから参加申請が可能です。

Learn more about Cloud TPUs and the TensorFlow Research Cloud – Google
https://services.google.com/fb/forms/tpusignup/