AMD发布ROCm 6.3更新 带来多项AI应用优化及新功能

珠江路在线   2024年11月28日  【 转载 】传奇网站新开网 

  本文标签:AMD,ROCm,显卡,计算卡

AMD现已正式公布了其ROCm软件栈的新迭代版本ROCm 6.3,带来了多项新 性能 。AMD 示意ROCm 6.3是开源平台的一个主要里程碑,它引入了先进的工具和优化 性能,以 晋升AMD Instinct GPU加快器上的AI、ML和HPC工作负载 。ROCm 6.3旨在通过 遍及开发人员的工作效率,为从创新型人工智能初创企业到高性能计算驱动型行业的 辽阔客户赋能 。

ROCm 6.3共有五大核心 性能 晋升,包含:

ROCm 6.3中的SGLang - 生成式AI(GenAI)模型的超 快捷推理,专为优化AMD Instinct GPU上的LLM和VLM等尖端生成模型的推理而构建 。

更高水平的Transformer优化 - 在AMD Instinct上再一次设计FlashAttention-2,实现了更快、更高效的训练和推理 。

AMD Fortran编译器 - 将传统代码桥接到GPU加快,运行基于Fortran的传统HPC 利用程序的企业现在 能够通过AMD Instinct加快器 开释现代GPU加快的 壮大 性能 。

rocFFT中的新多节点FFT - HPC工作流的游戏 规定转变者,在rocFFT中引入了多节点FFT 支撑,可实现高性能 分布式FFT计算 。

加强的计算机视觉库 - AV1、rocJPEG等, 使企业 能够 解决从视频 综合到数据集 加强的各种工作负载 。

此外,AMD将ROCm 6.2中引入的Omnitrace和Omniperf更名为ROCm System Profiler和ROCm Compute Profiler 。AMD称,此次品牌重塑将有助于 加强可用性、 巩固性,并无缝集成到目前的ROCm 综合生态系统中 。

免责声明:凡标注转载/编译字样内容并非本站原创,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。