领先几光年!NVIDIA CPU+GPU超级芯片终于量产:144TB内存 |
珠江路在线
2023年5月31日
【
转载
】完美国际搜服
|
本文标签:gpu,cpu,芯片 |
2022年3月,NVIDIA公布了首款数据 核心CPU Grace、新一代高性能计算GPU Hopper,同时利用它们打造了两颗“超级芯片”(Super Chip),一是Grace CPU二合一,二是Grace CPU+Hopper GPU二合一,看起来都极为酷炫 。
现在,足足14个月过去了,NVIDIA终于 宣告,GH200 Grace Hopper超级芯片已经全面投产,将为复杂AI、HPC工作负载提供 汹涌的动力 。
再外加Grace CPU、Hopper GPU、Ada Lovelace GPU、BlueField DPU等全套系统 方案,NVIDIA现在已经有400多种配置,可满足市场对生成式AI的激增需要 。
欧洲和美国的超大规模云服务商、超算 核心,将会成为接入GH200系统的首批客户 。
同时,黄仁勋还公布了Grace Hopper的更多细节,尤其是它的CPU、GPU中间 使用NVLink-C2C互连技术,总带宽高达900GB/s,相比传统的PCIe 5.0通道超出足足7倍, 能够满足要求最 苛刻的生成式AI和HPC 利用,功耗也减低了超过80% 。
Grace CPU 占有72个Armv9 CPU核心,缓存容量198MB, 支撑LPDDR5X ECC内存,带宽高达1TB/s,还 支撑PCIe 5.0 。
Hopper GPU则采纳台积电4nm定制工艺,集成多达800亿个晶体管,号称世界上最先进的芯片,集成18432个CUDA核心、576个Tenor核心、60MB二级缓存, 支撑6144-bit HBM3/2e高带宽内存 。
同时,NVIDIA 宣告推出一款新型大内存AI超级计算机“DGX GH200”,可用于开发面向生成式AI语言 利用、推举系统和数据 综合工作负载的下一代大模型 。
它装备了多达256颗GH200 Grace Hopper超级芯片,彼此NVLink Switch System 相互衔接,带宽 晋升48倍以上,对外可作为单个GPU 使用,浮点性能高达1PFlops(每秒1千万亿次浮点计算) 。
同时还有144TB共享内存,相比2020年的上一代DGX A100增大了近500倍 。