《科创板日报》7 月 19 日讯 (记者 黄心怡)据 RISC-V 国际基金会数据,2024 年全球基于 RISC-V 指令集的芯片出货量超百亿颗,其中 30% 应用于 AI 加速场景。
在刚刚结束的第五届 RISC-V 中国峰会上,RISC-V 芯片在人工智能和大模型推理方面的应用也备受关注。
多名业内专家表示,AI 推理的算力需求呈现新特征,这让 RISC-V 芯片在大模型推理领域有非常大的应用潜力。
▍RISC-V 为大模型推理降本增效
中国科学院计算技术研究所副所长、中国开放指令生态 (RISC-V) 联盟秘书长包云岗表示,AI 推理的算力需求呈现新特征,RISC-V+AI 将成为未来新组合。AI 与 CPU 的紧密协同设计,将对 RISC-V 提出多样化需求。
知合计算 CEO 孟建熠则认为,RISC-V 在通用计算方面一定可以落地,在 AI 推理上面也可以做得很好。
「通用计算需做到足够的高性能、高能效,AI 推理则需要在性能和成本上做的比较好。通过 RISC-V 的可扩展性、可定制性,能够把这两方面做好。并且,RISC-V 还能更好地实现统一地址寻址、存储访问优化、高计算效率,可以实现传统 AI 计算做不了的事情。」
中兴微电子副总经理石义军表示,RISC-V 在大模型推理领域有非常多的应用机会。他分享了大模型领域的发展趋势,:「随着 DeepSeek 等 MOE 模型的出现,让计算重心从算力转向效率,RISC-V 在新型 MOE 架构下帮助大模型推理降本增效,有非常多的机会。未来整个模型呈现稀疏性,总参数量大幅上市,而每个 token 对应的活跃参数量大幅下降,因此每一次推理所调用的算力在下降。不过,每个 token 推理的存储容量和带宽需求大幅上升。」
石义军提到,模型架构还会继续优化,算力架构需要新型 AI 算力支持,超长的上下文需求对存储管理提出新的要求。在大模型推理浪潮下,掀起下一代 AI 算力的需求和更新。而 CPU 如何更好地支持新型 AI 算力,成为发展重点。RISC-V 指令集和架构的开放性和灵活性,能更快更好赋能 CPU 下一代新型算力。
目前,RISC-V 架构在大模型推理上机会与挑战并存。在挑战方面,RISC-V 架构的多核同步性能待完善,与 ARM LSE 等扩展存在差距。「大模型芯片采用多核扩展来适应不同的模型尺寸,如何有效降低同步代价,是 RISC-V 在大模型推理架构创新的关键。此外,超大规模参数下,多芯片互联通讯的效率也将成为瓶颈,RISC-V 如何融入现代 AI 通讯生态,也很重要。」 石义军称。
此外,RISC-V 架构的 AI 扩展标准化尚待完善,架构和技术成熟度也还不够,矩阵指令方案尚未收敛,AI 软件栈标准亦有待完善。
石义军表示,正积极推进 RISC-V 在 AI 场景中的应用机会,寻找本地化部署一体机和小规模推理集群成本的最优解,以及云端大规模部署中,寻找 RISC-V CPU 和 GPU 高效协同的最优解。
「我们正与新思科技合作,通过 Chiplet 技术实现 RISC-V CPU 与 GPU 的高效互联。」 石义军透露,这一方案已在中兴微电子的 AiCube 训推一体机中应用,兼容 DeepSeek 等大模型,降低企业 AI 部署成本。
石义军称,RISC-V 在大模型推理中的成功取决于技术突破与生态共建的双重推进。他呼吁,行业应构建开放共享的 RISC-V 产业链,完善行业标准,培育 RISC-V 人才,构建可持续的 RISC-V 生态体系,落地通算和大模型推理场景,打造有竞争力的解决方案,打通产业上下游 RISC-V 应用。
▍消费电子、汽车等领域加速落地
《科创板日报》 记者从峰会现场获悉,RISC-V 芯片在智能手表、手环、智能摄像头等领域正在落地,市场培育已经成熟。
根据 SHD Group 报告的统计预测,基于 RISC-V 的 SoC 芯片从 2024 到 2031 年期间的市场渗透率将从 5.9% 增长到 25.7%,到 2031 年 RISC-V 出货量将超过 200 亿颗。预计将在以下六大市场占据显著份额: 消费电子 (39%)、计算机 (33%)、汽车 (31%)、数据中心 (28%)、工业 (27%) 和网络通信 (26%)。
在阿里达摩院的玄铁展台上,《科创板日报》 记者看到了 RISC-V 处理器在边缘和 AI 智算、服务器及周边、数据存储、消费电子、汽车电子、网络通讯、智能工控等领域的应用。
在消费电子领域,玄铁团队与凌思微、博流智能,以及上市公司全志科技、东软载波等合作。
比如,石头扫地机器人内置搭载玄铁 E906 处理器的全志 MR527 芯片,汤姆猫 AI 语音情感陪伴机器人内置搭载玄铁 C906 处理器的全志 R128 芯片,卡片相机内置搭载玄铁 E907 处理器的全志 V851s 芯片,台电 P50AI 平板电脑内置搭载玄铁 E902 处理器的全志 A733 芯片,Insta360 Go3s 运动相机内置搭载玄铁 C906 处理器的全志 F133 芯片等。