人工智能芯片效率大比拼:高通以 2:1 击败英伟达 |
珠江路在线
2023年4月10日
【
转载
】IT之家
|
本文标签:高通,英伟达,人工智能 |
4 月 9 日 信息,人工智能芯片是用于训练和运行人工智能模型的专用硬件,高通公司和英伟达公司是当前两家率先的人工智能芯片创造商,在周三公布的一组新的测试数据中,高通的人工智能芯片在三个 衡量电源效率的指标中以 2 比 1 击败了英伟达 。
据IT之家了解,人工智能模型需求用大量的数据进行训练,以 遍及其精确性和性能 。训练 实现后,人工智能模型就 能够用于推理,即执行一些具体的 使命, 比方依据输入生成文本回复,或者推断一张图片是不是包括猫 。推理是人工智能技术在产品中 宽泛 利用的环节,但也会添加企业的成本,其中一个重要成本便是电力 。
高通公司利用其在为手机等低功耗 设施设计芯片的 教训,推出了一款专为云端和边缘端提供高性能、低功耗人工智能 解决的芯片,名为 Cloud AI 100 。该芯片在周三公布的由 MLCommons(一个 保护人工智能芯片行业测试 标准的工程联盟)公布的测试数据中,在两项功率效率指标上击败了英伟达的旗舰芯片 H100 。
功率效率指标是指每瓦特电力 能够执行多少次服务器 查问 。高通的 Cloud AI 100 在图像分类方面达到了 227.4 次 查问每瓦特,而英伟达的 H100 惟独 108.4 次 查问每瓦特,图像分类 能够用于 鉴别图片中的物体或场景 。高通还在物体检测方面率先于英伟达,分别达到了 3.8 次 查问每瓦特和 2.4 次 查问每瓦特 。物体检测 能够用于 综合零售店的监控视频,了解顾客最常去哪些地方 。
但是,在自然语言 解决方面,英伟达却占领了绝对优势,无论是在性能还是功率效率方面都排名第一 。自然语言 解决是人工智能技术中最 宽泛 利用于聊天机器人等系统的技术,英伟达达到了 10.8 次 查问每瓦特,而高通排名第二,为 8.9 次 查问每瓦特 。
高通和英伟达都 指望通过提供高效的人工智能芯片来抢占数据 核心市场的份额 。随着越来越多的企业将人工智能技术融入他们的产品中,这个市场估计将 快捷增进 。