沈泊：SoC在AI时代降低能耗有三条路径
嘉宾：合肥酷芯微电子有限公司（以下简称“酷芯”）联合创始人、CTO沈泊
主题：低功耗SoC在AI时代如何立于不败之地？
AI成为必选项，市场青睐大算力
市场对芯片处理AI任务的需求，是从2015年开始兴起的。早期，市面上对于芯片处理AI任务的需求，主要聚焦在安防领域。沈泊表示，早期安防市场所需的芯片多为标准品，这类SoC芯片对AI性能要求不高，但对成本与标准化的要求很高。更低的成本是市场参与者竞逐的主要目标，也就是所谓的“低价为王”。
而近几年，安防行业进入平稳增长期，产品的价格和出货量不再大幅增长。同时，AI的发展使得客户对端侧SoC的AI任务处理能力要求大幅增长。端侧算力需求从不足1T，增长至几T甚至十几T。沈泊表示，根据观察，大算力SoC端侧芯片更能获得市场青睐。同时，由于此类产品不追求极致性价比，能够帮助芯片设计企业争取到更高的售价和毛利率。
与此同时，为均衡不同处理器的负载，优化用户使用体验，云、边、端融合的技术路线正成为诸多厂商的共同选择。而在这条技术路线之下，端侧芯片的算力需求仍会提升。出于用户隐私、实时性的要求，仍有许多功能需要落在端侧实现。在端侧对体积、功耗存在限制的情况下，芯片设计厂商之间比拼的便是在一定的功耗预算下，芯片能够实现的算力规模。
具体到应用场景中，沈泊表示，端侧芯片还能在一些非通用模型的AI性能实现方面发挥作用，例如画质影像的增强。这些功能虽然不是通用模型之所长，但对算力和功耗的要求严苛。在沈泊看来，优化芯片在这些AI性能上的实现能力，同样也能帮助提升用户体验。
降耗是共同目标，存在三条降耗思路
对于消费电子领域的芯片而言，能耗是其“一生之敌”。降低能耗，是相关厂商共同的优化方向。
关于如何降低功耗，沈泊提出了三条思路：
其一，降低核心IP的功耗。消费电子SoC中有几个“能耗大户”，NPU是其中之一。芯片工程师会通过优化NPU的运行单元阵列，实现NPU的轻量化设计。
其二，通过芯片内部SoC架构的创新，降低存储带宽依赖，进而降低整个芯片系统功耗。例如，影像处理功能的完成需要ISP处理器、视频编解码器、NPU或DSP等IP之间的数据传输。若能实现即时性的数据压缩与解压缩，处理器对外部存储带宽的依赖便能降低，进而降低整个芯片的功耗。
其三，与先进存储厂商配合，实现SoC与存储芯片协同优化，共同实现降低功耗的效果。“NPU运行的时候，有接近一半的功耗消耗在各种存储上。其中包括DDR的存储、内部SRAM的功耗消耗等。”沈泊表示。而近存计算、存算一体等架构的设计，能够降低存储器存取的功耗。通过采用功耗仅为传统DDR几分之一的先进存储颗粒，也能够帮助芯片实现整体功耗的大幅下降。
“像AR眼镜这样的电池供电设备，对功耗降低的需求是无止境的。”沈泊表示。而对于芯片设计厂商来说，不论哪条降耗思路，都需要做出很大努力，才有可能设计出在功耗层面非常有竞争力的产品。
性价比与高端，如何选？
酷芯的核心技术在于影像处理。影像处理类芯片曾经的主营市场——安防业务正在趋于成熟，市场增速趋缓。在这一背景下，酷芯选择放弃安防业务的通用芯片路线，转向AI眼镜、机器人等垂直市场。
在芯片设计领域有一条铁律：出货量越大，单颗芯片的平均成本越低。故而，若是放弃通用市场，选择垂直市场，则要保证该垂直市场有足够的增量空间。对此，沈泊向记者讲述了酷芯如此选择的原因。
沈泊表示，芯片设计前期研发的一次性投入非常大，先进工艺的单次投入更大。设计一款6纳米以下的先进工艺芯片，前期成本动辄达到几亿元。基于此，芯片设计之初需要审慎选择目标市场。
“这个目标市场的规模未必是最大的，但市场容量也不能太小。在我们看来，理想的目标市场，应该在经过一段时间发展后，能够达到年出货千万颗的体量。”沈泊表示。加上选择的目标市场相对高端，单颗芯片价格的上限更高，虽然年出货量不及安防芯片类能够达到亿级，但几千万颗的出货量也足以支撑芯片的研发费用。
同时，芯片也会在客户需求的基础之上实现冗余设计，以保证芯片的可扩展性。沈泊举例道：“很多客户告诉我们，下一代芯片的算力达到几个T就够用了。但是从我们的角度来看，为了保证一颗芯片在5到8年的生命周期内持续满足市场需求，我们在做芯片架构设计的时候，会保留足够的算力冗余，以保证芯片有足够的可拓展性，能够开拓更多市场。”
对于一家芯片设计企业而言，当前市面上大致存在两种市场拓展路线。其一便是像酷芯这样，先适配某一垂直市场，再拓展到更多的市场领域。此类企业以实现较高的芯片单价为目标，瞄准的是相对高端的市场，会围绕提升芯片的可扩展性做文章。还有一类企业专注于提升性价比，为了降低成本，芯片不会有太多冗余设计。
在采访的最后，沈泊坦言，AI时代，市场的变化正直接影响到IC研发的工作模式。
过去，IC研发人员只要了解公司内部对芯片指标的要求即可。而在市场迅速发展的当下，AI算法、先进封装、先进存储都在快速迭代，如果对这些技术不了解，就很难开发出客户满意、市场需要的产品。
“只有使全球最新的技术为我所用，同时能够更好地理解客户需求，我们才有机会去跟全球的一线厂商竞争。”沈泊说道。
