Meta公开首款自研AI芯片,采用台积电7nm制程

来源:中国电子报、电子信息产业网 发布时间: 2023-05-25 发布人: 活动交流中心

近日,Meta在官网发布公告,为了满足未来十年AI算力急剧增长的需求,Meta开始大力布局下一代AI软硬件基础设施。其中包括首款自研第一代AI推理加速器芯片MTIA v1,并公布了各种技术细节。

Meta官网显示,MTIA是一种ASIC芯片,能够将不同电路组合在同一块芯片上,还可以并行执行一项或多项任务。第一代MTIA ASIC芯片于2020年开始设计,是一款AI推理加速器芯片,该芯片采用台积电7nm工艺制造,运行频率为800 MHz,在INT8精度下算力达102.4 TOPS,在FP16精度下算力达51.2 TFLOPS,热设计功率(TDP)为25W。

Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道,MTIA是Meta针对推理性工作的内部定制加速器芯片,它提供了比CPU更高的计算能力和效率,能够为内部工作提供定制化服务,实现更好的性能、更低的延迟和更高的效率。

据了解,在过去的十年间,Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型,努力布局生成式AI。一直到2022年,Meta主要采用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行,而该组合的任务效率通常会低于GPU。这也是为何Meta取消了原本打算在2022年大规模推广CPU和AI定制芯片的计划,转而订购了价值数十亿美元的英伟达GPU。为了能够与这些GPU相匹配, Meta对旗下的几个数据中心进行了颠覆性的重新设计,而这样也是Meta开发MTIA这款ASIC芯片的原因,预计这款这款芯片将于2025年正式推出。