谷歌宣布成为第一家提供英伟达T4 GPU接入服务的云运营商。
英伟达在SC18上宣布,T4是针对高性能计算(HPC)的V100的更便宜的替代产品,它也可以从计算机制造商的57种独立服务器设计中获得。
英伟达首席执行官黄仁勋手持T4s
谷歌的处理单元
“我们从未见过如此迅速采用数据中心处理器。”英伟达的加速计算副总裁兼总经理伊恩•巴克表示。
“T4发布仅仅60天后,它就可以在云中使用,并得到全球服务器制造商网络的支持。T4为当今的公共云和私有云提供了大规模计算密集型工作负载所需的性能和效率。“
“现有的CPU基础设施根本无法满足人工智能的需求。”巴克在DCD出席的简报中补充道。
70W T4 GPU可以适用于标准服务器或任何开发计算项目超大规模服务器设计。服务器设计可以从单个T4 GPU到单个节点中的多达20个GPU,服务器可以从包括戴尔EMC、IBM、联想和超微型计算机在内的公司获得。
它在FP32提供8.1 Tflops,在FP16提供65 Tflops,在INT4提供130个Top,在INT4提供260个Top。
“你们中的许多人还告诉我们,你需要支持混合精度计算的GPU(FP32和FP16),以便以极高的性价比进行ML训练。”Google Cloud产品经理Chris Kleban说道。“T4的65 TFLOPS混合FP32/FP16 ML训练性能和16GB GPU内存满足了这一需求。”
从今天开始,谷歌云正在提供T4早期访问。英伟达首席执行官黄仁勋在SC18表示:“我对谷歌云工作速度有多快感到震惊,在生产后的30天里,它在云端大规模部署。”
相关阅读