GF Press Releases

人工智能处理器降低功耗带来的挑战与机遇

11月 13, 2020

作者:David Lammers

“对于边缘技术来说,关键在于如何优化所需性能,同时最大限度地降低功耗。”

鉴于疫情期间,行业活动已普遍转变为虚拟活动,年初至今我已经参加了6次线上半导体会议。讨论的热门主题之一是人工智能(AI)和深度学习(DL)芯片,这是一个不断发展的领域,范围涵盖了广泛的技术和器件类型。一项共同主题是关注内存优化和解决功耗/内存瓶颈。

人工智能是一个炙手可热的市场。据ABI Research估计,2024年整个人工智能芯片市场将达到210亿美元。令人惊讶的是,基于ASIC的人工智能加速器占据了市场的很大一部分,预计到2024年,其价值将增长三倍,达到90亿美元的总可用市场(TAM),年复合增长率(CAGR)为30%。

各家公司都想方设法,研发出低能耗的训练和推理处理解决方案。虽然机器学习只占数据中心总功耗的一部分,但这一部分功耗正在迅速扩大。2017年,数据中心消耗的电力约占美国总电力的3%,2020年这一数字翻了一倍,达到了6%。智能边缘器件的普及也在加速。根据市场研究公司IDC的数据,未来十年将有1,250亿个“物品”连接到互联网上,届时每年将创建、捕获、复制和消费近60泽字节的数据。

很明显,我们的行业面临着一项重大挑战:如何在边缘部署多个智能设备,在边缘以极低的功耗推断所有数据,并在云端管理、处理和训练指数级增长的数据,同时将功耗保持在控制水平内。

人工智能参考封装发展

格芯®(GLOBALFOUNDRIES®)计算业务部副总裁Hiren Majmudar表示:“在推理和训练中都存在功耗瓶颈”,而格芯技术产品很好地解决了这一点,无论是基于FinFET的12LP (12nm FinFET)平台和12LP+解决方案,还是基于全耗尽型SOI的平面22FDXTM (22nm FD-SOI)平台。

基于FinFET技术的人工智能处理器,无论是用于云端还是边缘,都具有功率和成本优势。12LP+解决方案能够以高于1 Ghz的速度运行人工智能内核,并采用全新的低电压SRAM和支持在0.55V下工作的标准单元库。格芯先进的FinFET解决方案12LP+于今年投产,与12LP基础平台相比,其双功函数FET的逻辑性能最高可提高20%,相当于功耗最高可降低40%。 

https://www.globalfoundries.com/sites/default/files/hiren-blog.jpg

他表示:“我们客户使用独特的架构,往往依赖一组有限的标准单元。我们一直致力于研究设计技术协同优化(DTCO),并开发了人工智能参考封装,可通过一套预封装元件来充分发挥潜能。借助合作DTCO模式,我们的客户可以快速将SoC目标推向市场。DTCO工作包括基于客户自身架构的设计分析服务,以针对性能、功率和面积(PPA)进行优化。”

Majmudar表示,最佳PPA因具体应用而不同。 

他表示:“所有的细分市场都非常关注成本。对于云计算来说,指标是每瓦TOPS,以最低的功耗获得最佳性能。对于边缘技术来说,关键在于如何优化所需性能,同时最大限度地降低功耗。”

Majmudar表示,对于开发“即时开启或永远在线”人工智能应用的客户来说,22FDX的eMRAM产品具有很强的优势。他补充道:“eMRAM有很多应用,可帮助客户实现高密度和非易失性。另一项功能是模拟存储器内计算。”

人工智能工作负载范围很广,除了训练和推理外,还包括语音、视觉和成像。他表示:“我们是一家专业晶圆厂,不断推出创新的IP产品。我们持续投资IP、晶圆到晶圆互联、存储器和接口IP领域。我们拥有明确的路线图,并吸收客户的意见不断改进。”

创新型初创公司

我计划在未来的博客中,详细介绍格芯如何与该领域的初创公司开展合作,但本文将先介绍其中一家公司,以便让大家初步了解格芯客户在人工智能芯片方面的丰富创新成果。

全耗尽型绝缘体上硅平台经过专门设计,支持动态电压、频率微缩和自动时钟门控。由此实现了超低功耗的信号处理和神经网络算法,可用于电池供电的物联网设备。

Perceive是Xperi Corp.拥有多数股权的子公司,旨在为超低功耗消费器件中的传感器数据提供人工智能推理。Perceive的“Ergo”边缘推理处理器能够在设备上处理大型神经网络,其效率是目前支持推理的处理器的20至100倍。

该公司专注于通过集成神经网络处理技术实现安全摄像头、智能家电和移动设备,而无需将数据发送到云端进行推理处理。

请观看下面的短视频,聆听Perceive首席执行官Steve Teig与格芯高级副总裁Mike Hogan交流Perceive的人工智能和机器学习方法: