Googleが機械学習専用の第3世代プロセッサ「TPU3.0」を発表、冷却が追いつかず液冷システムまで導入する事態に

Googleの開発者向けイベント「Google I/O 2018」で、機械学習に特化した専用プロセッサ「Tensor Processing Unit(TPU)」の第3世代モデル「TPU3.0」をGoogleのCEOサンダー・ピチャイ氏が発表しました。TPU3.0は第2世代モデルと比較して約8倍の高速化を実現しましたが、性能が上がりすぎたことで、プロセッサの発熱を抑えられなくなり、初めて液冷システムの導入を決めたとのことです。

Meet TPU 3.0: Google teases world with latest math coprocessor for AI • The Register
https://www.theregister.co.uk/2018/05/09/google_tpu_3/

Google launches TPU 3.0, third version of AI chips
https://www.cnbc.com/2018/05/08/google-launches-tpu-3-point-0-third-version-of-ai-chips.html

2017年のGoogle I/Oで発表されたTPU2.0については、以下の記事で確認できます。

Googleの機械学習マシン「TPU」の第2世代登場、1ボード180TFLOPSで64台グリッドでは11.5PFLOPSに到達 - GIGAZINE

第2世代のTPU2.0は、機械学習の「推論」と「トレーニング」の両方を効率的に処理することを可能にしていましたが、第3世代のTPU3.0では、さらに「トレーニング」に要する時間を大幅に短縮できるそうです。このため、録音されたデータから人々が話していることを認識したり、画像やビデオに映っているオブジェクトを特定したり、テキストから書き手の潜在的感情を読み取ったりするなどのアプリケーションの精度を効率的に高めることが可能になるとのこと。

Googleは既に複数台のTPU3.0を使った「ポッド」と呼ばれるクラスターを組み上げており、前モデル(TPU2.0)のポッド(64台構成)との性能比較を行っています。ピチャイ氏によると「TPU3.0のポッドの性能は前モデルの8倍以上あり、100PFLOPS以上の演算能力を持っている」と語っています。前モデルのポッドは11.5PFLOPSであったことから、TPU3.0に置き換えることで、性能を飛躍的に向上させています。なお、Google I/Oの発表時点で、このポッドの具体的な演算性能やクラスターの台数など、詳細な情報が明かされることはありませんでした。

TPU3.0で構成したTPUポッドの画像は、GoogleのTwitterアカウントで公開されています。画像を見る限りでは、TPU3.0を搭載したボードが100台以上あるように見えます。

また、TPU3.0の高い演算能力はプロセッサの発熱も想定を上回っていたとのことで、Googleのデータセンターの空調では、熱を抑えられなかったようです。ピチャイ氏は「TPU3.0の高い演算能力のために、Googleのデータセンターに初めて液冷システムを導入することになりました」と語っています。

By Google Developers