NVIDIA今天发布了NVIDIAA10080GBGPU，这项创新将支持NVIDIAHGXAI超级计算平台。 GPU内存是上一代产品的两倍，可以为研究人员和工程师提供前所未有的速度和性能，帮助实现新一轮的AI和科技突破。新的A100使用HBM2e技术将A10040GBGPU的高带宽内存增加了一倍，达到80GB，每秒提供超过2TB的内存带宽。这样可以将数据快速传输到世界上最快的数据中心GPUA100，从而使研究人员可以更快地加速其应用程序并处理最大的模型和数据集。 NVIDIA应用深度学习研究副总裁Bryan Catanzaro表示：“如果要获得HPC和AI的最新研究成果，则需要构建最大的模型，该模型需要比以往更大的存储容量和更高的带宽。 A10080GBGPU提供的内存是六个月前推出的上一代产品的两倍，突破了每秒2TB的限制，使研究人员能够应对全球科学和大数据中最严峻的挑战。面向NVIDIADGXTMA100和NVIDIADGXStationTMA100系统的NVIDIAA10080GBGPU也已上市，预计将于本季度发货。预计领先的系统提供商Atos，戴尔技术，富士通，技嘉技术，惠普企业，浪潮，联想，Yunda技术和超微型将在2021年上半年提供基于HGXA100集成背板的系统。配备4 -8个A10080GBGPU。满足大流量数据工作负载的需求A10080GB版本基于A10040GB的多种功能，使其成为需要大量数据存储空间的各种应用程序的理想选择。推荐系统模型（例如DLRM）为AI培训提供了覆盖数十亿用户和产品信息的海量表格。 A10080GB最多可以实现3倍的加速，从而使公司可以快速地重新训练这些模型，从而提供更准确的建议。 HGX服务器中携带的A10080GB还可以训练具有更多参数的最大型号，例如GPT-2。 GPT-2是一种自然语言处理模型，具有非凡的文本生成能力。这消除了对数据或模型并行体系结构的需求，因为实现并行体系结构需要花费大量时间，并且它在多个节点之间的运行速度很慢。凭借其多实例GPU（MIG）技术，A100最多可分为7个GPU实例，每个实例具有10GB的内存。这项技术是一种安全的硬件隔离方法，可以在处理各种小型工作负载时实现GPU的最佳利用。对于RNN-T等自动语言识别模型的AI推理，单个A10080GBMIG实例可以处理大规模批处理数据，从而将生产中的推理吞吐量提高1.25倍。根据TB级零售大数据分析基准，A10080GB的性能提高了一倍，使其成为快速分析最大数据集的理想平台。通过动态更新数据，公司可以实时做出关键决策。对于科学应用，A10080GB可以在天气预报和量子化学等领域提供巨大的加速。材料模拟软件QuantumEspresso使用单节点A10080GB来实现将吞吐量提高近2倍。 RIKEN计算科学中心负责人Satoshi Matsuoka表示：“快速，足够的内存带宽和容量对于实现高性能超级计算应用程序至关重要。具有80GB HBM2eGPU内存的NVIDIA A100提供了世界上最快的2TB / s带宽，可以帮助我们大大提高应用程序性能。 A10080GB的主要功能A10080GB具有NVIDIA Ampere架构的突破性功能：第三代TensorCore核心：通过新的TF32，上一代Volta架构的AI吞吐量增加了多达20倍。通过FP64，HPC性能最多可以提高2.5倍。通过INT8，AI推理性能提高了20倍，并且支持BF16数据格式。 ·更大，更快的HBM2eGPU内存：两倍的内存容量，这是业内首次实现超过2TB / s的内存带宽。 ·MIG技术：将单个独立实例的内存增加一倍，最多可提供七个MIG，每个MIG都有10GB的内存。 ·稀疏结构：将稀疏模型的推理速度提高2倍。 ·与上一代互连技术相比，第三代NVLink和NVSwitch可以使GPU之间的带宽增加一倍，并将数据密集型工作负载的GPU数据传输速度提高到每秒600 GB。 NVIDIAHGXAI超级计算平台A10080GBGPU是NVIDIAHGXAI超级计算平台的关键组件。