NVIDIA Tesla T4 Tensore Core GPUを発表

全世界的なAIサービスの増大に対応すべく、NVIDIAはAI data center platform向けの製品として、Tesla T4 Tensor Core GPUを発表しました。Tesla T4はTensorRT Hyperscale Inference Platformを特徴としております。「Turing」アーキテクチャと新しい推論ソフトウェアによって進化ざるもののようです。

主な特徴は次の通りになります。
Tensor Core 320基、CUDA core 2560基。FP32からFP16、INT8からINT4と柔軟に複数の精度の演算に対応。演算性能はFP16 65TFlops, INT8 130TIOPs, INT4 260TIOPs75Wの高い電力効率。小型のPCIe規格で多くのサーバーに容易に搭載することが可能。
NVIDIA TensorRT5→推論最適化・ランタイムエンジン。「Turing Tensor Core」をサポートし、複数精度演算を使用するワークロード向けにneural network optimizationのセットを提供します。NVIDIA Tensor RT inference server→コンテナ化されたマイクロサービスソフトウェアで、データセンター製品においてアプリケーションがAIモデルを使用できるようにするアプリケーション。

「Turing」アーキテクチャの演算向け製品である。2560基のCUDA coreを搭載する製品ながら、TDP75Wという低さが印象的であります。
使用されているコアについては言及されておりませんが、「TU104」と推測されます。「TU104」はSM 48 / CUDA core 3072のコアであるためで、この通りであるならば一部を無効化しSM 40 / CUDA core 2560の仕様としていることになります。
また、他情報によると「TU102」を基本として、GPCあたりのSMの数を12から8へと2/3としたのが「TU104」、GPCあたりのSMの数はそのままにGPCの数を半減させたのが「TU106」となり、各演算ユニットの数は「TU102」を1とすると「TU104」は2/3。「TU106」は1/2ということになります。この情報通りであれば、「TU106」はフルスペック仕様でGeForce RTX 2070に使われることになる。ただ、一方でCUDA core 2560のTesla T4が「TU104」であれば、もう256基CUDA coreを削って「TU104」でGeForce RTX 2070を製造してもおかしくはないのではと思う。この類は、GeForce RTX 2070が出てこないとわからないが、9月14日に明らかにされるものだと述べている。この通りなら9月14日に「TU106」の構成も含めて「Turing」アーキテクチャのより詳しい情報が明らかになるかもしれない。
他にもINT32の演算ユニットの追加により浮動小数点演算と整数演算を並行して行えるCUDA coreを改良した、新たなShading技術の導入、「Turing memory compression」、動画エンジンの改良、NV Linkの導入などが新たな特徴・機能として挙げられています。

Samsung 970 EVO Plus 1TB PCIe (最大転送速度 3,500MB/秒) NVMe M.2 (2280) 内蔵 SSD MZ-V7S1T0B/EC
Amazon
Samsung 970 EVO Plus 250GB PCIe (最大転送速度 3,500MB/秒) NVMe M.2 (2280) 内蔵 SSD MZ-V7S250B/EC
Amazon
Samsung 970 EVO Plus 2TB PCIe (最大転送速度 3,500MB/秒) NVMe M.2 (2280) 内蔵 SSD MZ-V7S2T0B/EC
Amazon
Samsung 970 EVO Plus 500GB PCIe (最大転送速度 3,500MB/秒) NVMe M.2 (2280) 内蔵 SSD MZ-V7S500B/EC
Amazon
Samsung 980 PRO 1TB PCIe Gen 4.0 x4 (最大転送速度 7,000MB/秒) NVMe M.2 (2280) 内蔵 SSD MZ-V8P1T0B/EC
Amazon
Samsung 980 PRO 250GB PCIe Gen 4.0 x4 (最大転送速度 6,400MB/秒) NVMe M.2 (2280) 内蔵 SSD MZ-V8P250B/EC
Amazon
Samsung 980 PRO 500GB PCIe Gen 4.0 x4 (最大転送速度 6,900MB/秒) NVMe M.2 (2280) 内蔵 SSD MZ-V8P500B/EC
Amazon
stern Digital HDD 1TB WD Blue PC 3.5インチ 内蔵HDD WD10EZEX-EC
Amazon
Western Digital HDD 10TB WD Red Plus NAS RAID (CMR) 3.5インチ 内蔵HDD WD101EFAX-EC
Amazon
Western Digital HDD 12TB WD Red Plus NAS RAID (CMR) 3.5インチ 内蔵HDD WD120EFAX-EC
Amazon
Western Digital HDD 14TB WD Red Plus NAS RAID (CMR) 3.5インチ 内蔵HDD WD140EFFX-EC
Amazon
Western Digital HDD 1TB WD Red Plus NAS RAID (CMR) 3.5インチ 内蔵HDD WD10EFRX-EC
Amazon
Western Digital HDD 2TB WD Blue PC 3.5インチ 内蔵HDD WD20EZAZ-EC
Amazon
Western Digital HDD 2TB WD Red NAS RAID 3.5インチ 内蔵HDD WD20EFAX-EC
Amazon
Western Digital HDD 3TB WD Red NAS RAID 3.5インチ 内蔵HDD WD30EFAX-EC
Amazon
Western Digital HDD 4TB WD Blue PC 3.5インチ 内蔵HDD WD40EZRZ-EC
Amazon
Western Digital HDD 4TB WD Red NAS RAID 3.5インチ 内蔵HDD WD40EFAX-EC
Amazon
Western Digital HDD 6TB WD Blue PC 3.5インチ 内蔵HDD WD60EZAZ-EC
Amazon
Western Digital HDD 6TB WD Red NAS RAID 3.5インチ 内蔵HDD WD60EFAX-EC
Amazon
Western Digital HDD 8TB WD Red Plus NAS RAID (CMR) 3.5インチ 内蔵HDD WD80EFAX-EC
Amazon
Western Digital SSD 1TB WD Blue SN550 PC M.2-2280 NVMe WDS100T2B0C-EC
Amazon
Western Digital SSD 250GB WD Blue SN550 PC M.2-2280 NVMe WDS250G2B0C-EC
Amazon
Western Digital SSD 500GB WD Blue SN550 PC M.2-2280 NVMe WDS500G2B0C-EC
Amazon
Western Digital WD Black SN750 ゲームPC カスタムPC 500GB NVMe 5年保証 WDS500G3X0C-EC
Amazon
Western Digital WD Black SN750 ゲームPC カスタムPC向け 1TB NVMe 5年保証 WDS100T3X0C-EC
Amazon
Western Digital WD Black SN750 ゲームPC カスタムPC向け 2TB NVMe 5年保証 WDS200T3X0C-EC
Amazon
Western Digital WD Black SN750 ゲームPC カスタムPC向け250GB NVMe 5年保証 WDS250G3X0C-EC
Amazon
ASUS NVIDIA GeForce GTX 1660 搭載 デュアルボールベアリングファンモデル 6G PH-GTX1660-O6G
AmazonRakuten
ASUS NVIDIA GeForce GTX 1660S 搭載 シングルファンモデル 6G PH-GTX1660S-O6G
AmazonRakuten
ASUS NVIDIA RTX 2060 SUPER 搭載 デュアルファンモデル 8G RTX2060S-O8G-EVO
AmazonRakuten
MSI GeForce GTX 1650 AERO ITX 4G OC グラフィックスボード VD6936
AmazonRakuten
MSI GeForce GTX 1660 AERO ITX 6G OC グラフィックスボード VD6919
AmazonRakuten
MSI GeForce GTX 1660 SUPER AERO ITX OC グラフィックスボード VD7112
AmazonRakuten
MSI GeForce RTX 2060 SUPER VENTUS XS J OC グラフィックスボード VD7099
AmazonRakuten
ZOTAC GAMING GeForce GTX 1650 OC グラフィックスボード VD6937 ZTGTX1650-4GBOC
AmazonRakuten
ZOTAC GAMING GeForce GTX 1660 SUPER Twin Fan グラフィックスボード ZTGTX1660S-6GBTWIN/ZT-T16620F-10L VD7109
AmazonRakuten
玄人志向 NVIDIA GeForce GTX 1650 搭載 グラフィックボード 4GB デュアルファン GF-GTX1650-E4GB/OC/DF
AmazonRakuten
玄人志向 NVIDIA GeForce GTX 1660 搭載 グラフィックボード 6GB デュアルファン GALAKURO GAMINGシリーズ GG-GTX1660-E6GB/DF
AmazonRakuten
玄人志向 NVIDIA GeForce GTX 1660Super 搭載 グラフィックボード 6GB デュアルファン GALAKURO GAMINGシリーズ GG-GTX1660SP-E6GB/DF
AmazonRakuten
玄人志向 NVIDIA GeForce RTX 2060 SUPER 搭載 グラフィックボード 8GB デュアルファン GALAKURO GAMINGシリーズ GG-RTX2060SP-E8GB/DF
AmazonRakuten