AI 分为训练与推理两大环节。
训练如同 「学生学习知识」，需海量数据和超强算力；推理则像 「学生考试答题」，要求快速响应现实问题。随着 AI 应用场景的普及，推理算力需求不断提升，据 IDC 数据显示，2022 年云端推理算力占比已达 58.5%，预计 2026 年将升至 62.2%。
如今，一家上市公司在 11 年间研发端侧 AI 芯片之后，选择发力大模型推理算力。
7 月 25 日消息，2025 年世界人工智能大会 （WAIC） 前夕，AI 上市公司云天励飞 （688343.SH） 对外发布深穹 Edge200 芯片，以及全新深穹 X6000 Mesh 推理计算卡等产品。
据悉，深穹 X6000 Mesh 推理加速卡的算力达 256Tops，主要定位于 AI 推理计算，支持 30fps 的 1080p 256 路的视频解码，可实现千亿参数大模型推理应用。
同时，基于深穹 X6000 Mesh 加速卡，云天励飞提供深目 6203 视频高密 2U 推理一体机、天舟 6408 大模型 4U 推理一体机，以及天舟 680G 大模型满血版 8U 推理一体机等产品，最高可达 4PFlops（每秒执行 4 千万亿次浮点运算） 推理算力，助力 AI 模型商业落地。
云天励飞董事长兼 CEO 陈宁对笔者表示，公司全面聚焦 AI 推理芯片。2025 年是 AI 发展的重要转折点，大模型技术不断成熟，模型调用成本显著降低。同时，当前 AI 推理芯片市场仍处于蓝海阶段，其市场规模相较于数千亿美元的训练芯片市场尚显微小，但预计未来三至五年内，AI 推理芯片的增长速度将大幅超越训练芯片。这不仅意味着 AI 从训练时代迈入推理时代，也预示推理算力需求将迎来爆发式增长。
陈宁称，未来五年 （2030 年），AI 将重塑所有机器人、AI 眼镜等终端硬件产品，推理算力网络将无处不在。而作为底层算力设施，AI 推理芯片将贯穿端、边、云，形成无处不在算力网络，从而让各类 Agent 能够服务人类的工作和生活。
陈宁强调，未来云端推理算力会率先迎来爆发，并不断探索新的应用场景。一旦新场景通过云服务形成价值闭环，实现从 1 到 100 的大规模复制，同时在性价比提升、成本降低上取得突破，市场就有望向更大规模的边缘推理计算拓展。最终，必然会形成终端、边缘、云端全栈式的协同分工模式，推动 AI 大规模落地并具备最优的性价比。
研发 11 年 NPU 之后，这次为何要发力模型推理算力卡？
云天励飞成立于 2014 年，拥有大模型和 AI 芯片两大技术平台，打造了面向消费级、企业级、行业级三大类场景的业务。
2023 年，云天励飞成功在上交所科创板上市，曾一度被称为 「深圳 AI 第一股」。
技术方面，云天励飞自研 「算力积木」 架构，以及神经网络处理器核心 IP 和芯片，聚焦大模型高效推理，为 AI 的普惠应用提供算力支撑，满足多样化应用场景对 AI 算力的需求。
早在 2020 年，云天励飞全面转向国产工艺，成为首家采用国产 Chiplet 工艺的 AI 芯片公司。
2023 年，云天励飞正式发布基于 「算力积木」 架构打造的 DeepEdge10 芯片平台，并推出 DeepEdge10C、DeepEdge10 标准版、DeepEdge10Max 和 DeepEdge200 四款芯片，提供算力范围覆盖 8T 至 256T，可满足从小型边缘设备到智算中心高性能计算的需求。
2025 年初，云天励飞提供部署 DeepSeek-R1 全尺寸模型的大模型训推一体机。
经过 11 年发展，云天励飞已经推出五代 NPU（神经网络芯片），并推出产品矩阵。
其中，DeepEdge10 芯片平台已成功适配 DeepSeek 系列模型、QwQ-32B 模型及国产鸿蒙操作系统，可为客户提供全国产的软硬一体化产品和解决方案。基于自研 AI 推理芯片，云天励飞联合生态合作伙伴推出面向云、边、端的 AI 推理产品系列，包括模组、边缘智能盒子、AI 推理加速卡、大模型推理一体机，以及智算服务器等。
- 组件：天星、天书、天栈、天芯；
- SoC：深界 （芯片）、深穹 （计算卡）、深擎 （一体机）
- 设备和集群：深界 D、深穹 R、深穹 Cube
- 其他 AI 产品：噜咔博士、岍丞等。
随着 AI 热潮兴起，云天励飞业绩持续向好。财报显示，2024 年，云天励飞营业收入超 9 亿元，同比增长 81.3%。截至 2025 年第一季度，公司营收 2.64 亿元，同比大增 168.23%，创历史同期新高。
今年上半年，云天励飞公司与德元方惠签署的约 4000PFLOPS 的 AI 训练及推理异构算力服务协议 （预计未来 3 年贡献约 16 亿营收） 已于 2025 年 4 月完成全部验收工作并开始回款，预计上半年将贡献约 2 亿元营收；天府智算中心项目收益层面，公司已完成天府智算中心的交付，并于 2024 年第四季度确认相关收入。
消费级业务方面，2024 年，云天励飞消费级场景业务通过岍丞技术的智能穿戴设备 （已进入华为、荣耀、OPPO 等供应链） 和噜咔博士的 AI 硬件产品线，预计 2025 年上半年消费级业务将保持 50% 以上增速。
如今，研发 11 年 NPU 之后，云天励飞再进一步，全面发力大模型推理算力，发布针对于推理算力的 AI 芯片以及算力卡，布局一体机、智算中心等方案，产品将广泛应用于智算中心、智慧城市和具身智能等领域。
对于为何从边缘 AI 计算战略，转变为 AI 模型推理算力，陈宁表示，美国绝大部分 90% 以上的科技发明停留在实验室里面，但对于中国，AI 推理芯片则是推动 AI 产业大规模落地的关键领域和关键技术，中国一定要把握新机遇。
他提到，未来五年，大模型、算法和推理芯片为核心的 AI 技术将重新定义人类所有的电子产品；未来五到十年，以推理芯片为核心的 AI 算力网络会无处不在。
「这种战略转变源于 AI 产业的发展：2014 至 2022 年小模型时代，需开发边缘 AI 芯片解决细分场景问题，形成 『行业+AI』 模式；2022 年 11 月后，大模型重塑格局，推动 AI+行业，催生消费类与企业级新赛道，产业进入行业 AI、企业 AI、消费者 AI 并行阶段。我们持续跟踪技术，2023 年推出兼容大模型部署的 『算力积木』，快速升级战略聚焦 AI 推理芯片，经过两年多储备，今年正式提出打造该领域领军企业的核心战略。」
「中国和欧美之间最大的差异，在于我们 （中国） 拥有人口的红利，拥有更加丰富的应用场景，这样一个背景之下，云天励飞是 2014 年我带领一支海归技术团队回到深圳创立了一家中国的 AI 推理芯片企业。如今，我们打造了一条应用生产数据，数据训练算法，算法定义芯片，芯片规模化应用的数据飞轮，通过应用数据算法芯片这样一个数据飞轮，依托中国丰富的应用场景，不断推动着 AI 算法和大算力推理芯片技术发展动力。我们坚信，云天励飞会进一步加大在 AI 推理芯片领域的研发和投入，抓住这样一个市场的机遇，尤其未来五年 AI 智能体应用的爆发，带来国产 AI 推理芯片和算力市场机遇，推动中国抢占第四次工业革命的第一张入场券。」 陈宁称。
具体来说，相比其他算力卡，云天励飞深穹 X6000 Mesh 加速卡有以下核心技术特点：
- 一、其采用自研第四代神经网络处理器 （NPU），高效支持 Transformer 架构，主要应用于模型推理环境；
- 二、Edge 芯片采用国产工艺制造，Edge10C、Edge10、Edge10Max 已通过自主可控国产化 C 级认证，板级方案通过 100% 国产化率验证；
- 三、这是国内首颗量产的基于国产先进工艺的 「算力积木」 架构 （D2D Chiplet 和 C2C Mesh） 的 AI 芯片。所谓 D2D Chiplet 是指 Die 裸片之间的互联，而 C2C Mesh 互联是两个 Chip 芯片之间的通讯互联，从而实现片间算力扩展，满足千亿级大模型部署需求。
陈宁对笔者表示，目前基于深穹 X6000 Mesh 推理加速卡的推理一体机正逐步量产落地。另外，云天励飞在智算中心中也有布局。「智算中心会有四类客户：城市级参与的智算中心建设，科研院所对国产芯片需求，运营商以及互联网大厂，他们都在各地建设智算中心，这里面我们都有布局。」
陈宁强调，DeepSeek 一体机的本质在于，打破各个行业最后一公里的 AI 应用闭环。如今热潮消退，并不一定代表一体机的 「退场」，而是大家理性思考如何把一体机真正做到应用闭环。他认为，未来很长一段时间，一体机和云端推理集群将并行发展。
AI 算力需求每年增超 80%，云天下一代 AI 芯片 2026 年推出
2025 年，随着 DeepSeek 等开源模型大幅降低企业使用门槛，推理算力成本不断降低，以及从智能客服到自动驾驶的 AI 应用快速扩展，推理算力需求也不断增长。
今年 6 月，AMD CEO 苏姿丰 （Lisa Su） 表示，去年 AMD 预测，到 2028 年，全球数据中心 AI 加速芯片规模达到 5000 亿美元，年增长速度超过 60%。而如今随着推理模型的兴起，这个数字甚至更高。
苏姿丰称，未来几年，AI 推理算力需求预计将每年增长超过 80%，有望超过训练成为数据中心计算的主要驱动力。
显然，AI 推理算力需求正加速增长。
陈宁也同意这一观点。他认为，AI 训练是一个确定性市场，英伟达已经定义这一市场，但推理方面，云天励飞从创业之初坚定不移定义 AI 推理，最近两年很多企业正在从训练市场逐步转型到训推一体的市场，探索未来推理成长空间，但这一过程中，「我们认为云天励飞有些差异化竞争力」。
针对于下一代 「算力积木」 架构和 AI 推理芯片进展，云天励飞 CTO 李爱军透露有五个方面的重要升级：
- 1、采用新型计算。第五代 NPU Nova500，支持原生态 FP8/FP4，专用大模型算子，计算效率提升 5 倍，能效比提升 3 倍以上。
- 2、近存计算。采用 3D Memory Hybrid Bonding（内存混合键合技术），带来 10 倍内存带宽提升、10 倍访存能效比提升。
- 3、采用 NB-Mesh 新型互联。支持超节点内纵向算力扩展 (scale up)，支持多维 Full Mesh 互联，直接内存语义访问，以及数据传输 all reduce（全局归约）。
- 4、新型封装。包括采用异质多 Die 封装、UCIE D2D Chiplet 等技术。
- 5、NB-Link 通用扩展性。支持 PCIe 通用接口界面，CPU/NPU 大互联带宽，支持 CPU/NPU 直接内存访问，可以加速 AI Agent 智能体响应速度。
李爱军表示，第二代 「算力积木」 通过上述五个创新，打造新型大模型推理计算平台，满足嵌入式物联网、边缘端、云推理对边缘大模型、MoE 大模型的极致推理效率、能效比、性价比需求。
据悉，基于第二代 「算力积木」 架构的云天励飞下一代 AI 推理芯片，预计将于 2026 年底陆续推出，包括深界、深擎、深穹三个系列将分别推出相应的产品；到 2028 年，云天励飞会推出第三代 「算力积木」。
对于下半年业绩预期和国产芯片发展，陈宁表示，基于 AI 推理算法、算力和 AI 应用需求增长，公司相信会继续保持一个高速增长趋势。同时，云天励飞用五年的时间迎接机遇和挑战，如今已实现全面国产芯片的商用量产。
陈宁表示，作为一家国产 AI 芯片公司，确实是面临着巨大的挑战，主要是起步晚、生态不完善、国际复杂环境等一系列挑战，但很多机遇其实都是在挑战之下的。云天励飞一直在做基于矩阵类的并行计算芯片，团队有这样一个基因、决心和信念，可以克服各种挑战。同时，云天励飞持续拥抱国产工艺，拥有市场差异化竞争优势。
「国产芯片公司最核心的 『财富』，其实就是你的团队，只要有了这个团队，这些问题我相信都可以解决。」 陈宁称。（本文首发于钛媒体 App，作者｜林志佳，编辑｜盖虹达）
