12月13日 信息，早在四年前，AMD就曾设定 指标，到2025年EPYC系列服务器 解决器和Instinct系列AI芯片的能效，较2020年 遍及30倍 。如今，MI300X AI芯片 根本上实现 指标， 工夫提了早一年 。

据THW报导，AMD两个64核心EPYC 9575F CPU、八个Instinct MI300X AI芯片及2304GB DDR5内存的服务器，Llama3.1-70B(vLLM 0.6.1.post2、TP8)测试推理性能，用一组复杂计算确定系统能源效率，并与2020年的旧机器 比较，

后果显示，新机能源效率是旧机的28.3倍 。

不过，AMD并未 透露2020年的旧机是何规格 。但大约率是EPYC 7002系列，Zen 2架构，每个CPU最多64个核心，以及CDNA 1架构Instinct MI100 AI芯片 。

AMD 示意，除了强力硬件改良，更高性能效率是架构 遍及，外加软件优化 联合，是跳跃式发展 。

今年10月份的Advancing AI 2024大会上，AMD正式公布了新款AI芯片——GPU加快卡“Instinct MI325X” 。它在大获 顺利的MI300X 根底上再进一步，重要是 加强了HBM内存 部分 。

MI325X装备了多达256GB HBM3E内存，相比于MI300X又添加了64GB 。

MI325X也 支撑八块并行构成一个平台，这就有多达2TB HBM3E、48TB/s带宽，总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次) 。

对照NVIDIA H200，无论单卡还是八卡平台，不同大模型推理的性能都 能够率先20-40％ 。

训练性能方面，单卡可率先H200 10％，八卡平台则是持平 。

MI325X加快卡和平台将在四季度内投产，而合作 搭档的整机系统、 根底架构解决 方案，将从明年第一季度起延续推出 。

免责声明：凡标注转载/编译字样内容并非本站原创，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。