Meta发布新一代MTIA芯片:AI性能大幅提升

【KJKX科技快讯】4月11日消息,meta
Platforms于近日发布了其专为AI工作负载设计的定制芯片系列——训练与推理加速器项目(MTIA)的最新版本。

据meta官方介绍,新一代MTIA相较于初代,在性能上有了显著的提升,这种提升特别有助于加强内容排名和推荐广告模型的效果。新一代MTIA的设计理念在于寻求计算、内存带宽和内存容量三者之间的理想平衡。这一改进不仅优化了芯片的性能,更使得推理任务(即实际推理工作)的执行变得更为顺畅。

据KJKX科技快讯了解,meta在其官方声明中强调,实现他们在定制芯片领域的雄心,需要将投资视野扩展到计算芯片以外的领域,包括内存带宽、网络以及容量等下一代硬件系统。这表明meta正致力于打造一个全方位的、高效的AI硬件生态系统。

目前,MTIA的主要应用是训练排名和推荐算法,但meta的目标并不仅限于此。他们期待未来能扩展MTIA的功能,将其应用到生成式人工智能的训练中,例如训练其Llama语言模型。

技术规格方面,新一代MTIA芯片配备了256MB的片上内存,主频达到1.35GHz,采用台积电5nm工艺制造,相比第一代产品的128MB内存和800MHz主频有了明显的改善。根据meta的早期测试结果,新芯片的性能在评估的四种型号中均达到了第一代的三倍。

目前,这款芯片已经在数据中心得到部署,并正积极为AI应用提供服务。随着技术的不断进步,我们期待MTIA能在未来发挥出更大的潜力,推动AI领域的发展。

文章采集于互联网

相关推荐