Googleの機械学習マシン「Cloud TPU Pod」の新型はNVIDIA Tesla V100の200倍高速に

Googleが開発する機械学習向けプロセッサ「TPU」をGoogleデータセンターネットワークと接続したマシン「TPU Pod」の新バージョンが、クラウドで提供開始されました。TPU Podでの機械学習における時間と費用というコストが劇的に下がるとGoogleはアピールしています。

Now you can train TensorFlow machine learning models faster and at lower cost on Cloud TPU Pods | Google Cloud Blog
https://cloud.google.com/blog/products/ai-machine-learning/now-you-can-train-ml-models-faster-and-lower-cost-cloud-tpu-pods

Googleは機械学習やディープラーニングに最適化したプロセッサ「TPU」を自社で開発し、すでに第3世代までTPUは進化しています。

Googleが機械学習専用の第3世代プロセッサ「TPU3.0」を発表、冷却が追いつかず液冷システムまで導入する事態に - GIGAZINE

機械学習やディープラーニングでは、モデルをトレーニングするのに膨大な演算を処理する必要があるため、トレーニング実行に数日から数週間待つ場合があります。開発の生産性を高めるために、訓練などでの演算速度を高めることは大きな課題になっています。そこで、Google Cloud Platform(GPC)ではTPUシステムをクラウド上でレンタルするサービス「Cloud TPU」が提供されています。大規模な計算リソースを必要とする機械学習やディープラーニングのトレーニングなどをTensorFlowで行う場合、TPUをデータセンターネットワーク内で接続した「TPU Pod」を使うことで、研究者や開発者は高速かつ低コストに機械学習の計算結果を得られるというわけです。

Googleは第2世代TPUを採用した「TPU v2 Pod」を導入することで、機械学習の演算速度が大幅に向上し、ユーザーはより低コストで演算できるようになったと発表しました。

Googleによると、TPUを256基搭載したフルスケールのTPU v2 Podは、NVIDIAの「Tesla V100」に比べて200倍以上の機械学習演算速度を持つとのこと。

「ResNet-50」を訓練する場合、n1-standard-64のGoogle Cloud VMに8基のNVIDIA Tesla V100を搭載したマシンと比べて、TPU v2 Podは計算速度が27倍で、トータルの計算コストは38％も低くなるとのこと。

アルファ版として利用可能なTPU Podへは、以下のサイトから早期アクセスをリクエストできます。

Cloud TPU Pod Alpha Access
https://goo.gl/forms/adfRDfl4uRpbosjH3