文 | 融中财经
一个登顶，一个起跳，4.2 万亿美元与 60 亿美元的落差，为 AI 芯片战局埋下新变量。
一边是英伟达市值冲破 4.2 万亿美元，成为历史上首家达到这一规模的科技公司—— 这个数字超过了英国所有上市公司的市值总和，堪称商业史上“ 大象级” 的存在。
7 月 15 日，英伟达 CEO 黄仁勋年内第三次访华，宣布美国批准恢复向中国出口定制的 H20 芯片，重启占其总营收 13%（约 170 亿美元） 的中国市场，彰显其巩固 AI 时代统治地位的雄心。
另一边，2016 年成立的加州初创公司 Groq 正洽谈新一轮融资：以 60 亿美元 （约 430 亿人民币） 的投后估值募集 3-5 亿美元的资金，用于履行与沙特阿拉伯的重磅合同。
当黄仁勋在东方意气风发之际，Groq 创始人乔纳森· 罗斯正盯着沙特的数据中心屏幕—— 那里由 1.9 万颗自研芯片组成的 AI 推理集群，从 2024 年 12 月搭建到投入运行仅用了 8 天，成为中东加速 AI 基建的核心引擎。
60 亿对 4.2 万亿，Groq 以不足英伟达 0.2% 的体量，展开了一场“ 不对称” 的芯片竞赛。
这家公司被视为英伟达最强的竞争对手之一。它以 LPU 芯片的 SRAM 架构和 TSP 流式计算专攻推理，靠 80TB/s 片上带宽和静态调度砍掉延迟，瞄准英伟达 H100 的推理短板；英伟达则凭 CUDA 生态和 HBM 显存垄断，一边用 H200 强化推理能效，一边通过供应链控制 （如买断 HBM 产能） 压制对手。
前者借沙特布局和开源模型突围，后者靠开发者绑定和全栈优势死守，在推理市场上演“ 精准狙击” 与“ 生态护城河” 的攻防战。
创企中的“ 金汤玩家”
这家 2016 年诞生于硅谷的公司，从诞生就自带“ 明星基因”。
创始人乔纳森· 罗斯 （Jonathan Ross） 的履历本身就是块金字招牌—— 他是谷歌第一代张量处理单元 （TPU） 的核心研发成员，亲历了 AI 芯片从实验室走向产业化的关键阶段。公司的另一位创始人是谷歌 Alphabet 的 X 实验室工程师道格拉斯· 怀特曼 （Douglas Wightman）。同样值得关注的是 Groq 的硬件工程副总裁吉姆· 米勒 （Jim Miller），这位行业老兵既主导过亚马逊 AWS 云计算硬件的开发与交付，也曾在英特尔领衔 Pentium II 处理器项目，横跨消费电子与企业级硬件两大领域。
罗斯和米勒的履历吸引了前谷歌 TPU 团队 80% 的核心成员加入 Groq，这种人才聚集效应在 2024 年 Groq 的沙特投资后进一步放大——Groq 与 Meta 合作，为其官方 Llama API 提供推理加速服务；Meta 首席 AI 科学家 Yann LeCun 以技术顾问身份支持 Groq; 英特尔前晶圆厂负责人 Stuart Pann 则出任 Groq 首席运营官 （COO）。
顶级团队自然吸引顶级资本。
2024 年 8 月，黑石集团 （BlackRock） 领投了 Groq 6.4 亿美元的 D 轮融资，思科、三星 Catalyst 基金等机构跟投，让 Groq 的估值一举冲到 28 亿美元。短短一年后，其估值即将翻倍至 60 亿美元，成为 AI 芯片赛道成长最快的独角兽之一。
此次 Groq 募资 3-5 亿美元，除了履行和沙特的合同，帮助其 AI 推理数据中心项目快速落地外，还包括构建北美本土供应链、扩张 GroqCloud 开发者生态，以及应对英伟达 H200 芯片量产带来的竞争压力。尽管沙特协议带来长期收入预期，但里程碑式付款条款导致 2025 年上半年需补充流动资金以应对产能爬坡前的资金缺口。
Groq 的融资带着明确的战略意图。
2024 年底，Groq 以闪电般的速度开启在沙特的战略布局。早在 2024 年 9 月，Groq 便与沙特阿美的数字与技术子公司 Aramco Digital 签署谅解备忘录，计划在沙特达曼建设全球最大规模的 AI 推理数据中心。
作为落地的第一步，Groq 于 2024 年 12 月在达曼快速部署了包含 1.9 万个 LPU（语言处理单元） 的推理集群，仅用 8 天时间即完成上线，每日可处理数十亿 Tokens（词元），展现出惊人的执行效率。
为适配沙特的高温环境，Groq 对硬件设计进行了针对性优化，同时启动阿拉伯语 NLP 模型的本地化开发，以满足中东市场的特定需求。
该项目被纳入沙特“2030 愿景”，沙特阿美为此提供了上亿美元的资金支持，目标在 2025 年将处理能力提升至每日数千亿 Tokens，并最终部署 10.8 万个 LPU 芯片，形成全球最大的 AI 推理基础设施之一。这一布局依托沙特的地缘优势、低廉的能源成本和充足的建设空间。Groq 的快速行动为其后续获得沙特 15 亿美元投资承诺奠定了基础。
2025 年 2 月，沙特主权基金通过沙特阿美旗下 Aramco Digital 向其抛出 15 亿美元投资承诺，条件是协助沙特建设本土 AI 基础设施。这笔钱不仅让 Groq 的现金流底气十足，更让其业绩预期飙升：2025 年营收有望实现跨越式增长，达到 5 亿美元，使 Groq 迈入“ 亿级营收俱乐部”。
不碰“ 训练” 主战场，专啃“ 推理” 硬骨头
Groq 从没想过与英伟达在 AI 训练芯片市场正面交锋。
当英伟达的 GPU 凭借 CUDA 生态在训练领域占据超 80% 市场份额时，它选了条差异化路线：专注于 AI 推理芯片。
这步棋精准踩中了行业痛点。AI 计算的“ 训练” 与“ 推理” 环节有着本质区别：训练像“ 教学生”，需要海量数据反复调整模型参数，对算力的通用性和精度要求极高；推理则像“ 学生答题”，需要在毫秒级时间内给出结果，更强调低延迟、高并发和低成本。
英伟达的 GPU 本是为图形渲染设计的，改造后用于 AI 训练合适，但拿来做推理却有些“ 大材小用”—— 其硬件资源中，有相当一部分是为支持训练时的复杂梯度计算而设计，在推理阶段反而成了冗余负担。
Groq 的核心产品 LPU（Language Processing Unit） 就是冲着推理场景的痛点来的。它不追求“ 全能型” 算力，而是聚焦“ 推理专项优化”：让 Meta 的 Llama、谷歌的 Gemma 等已训练完成的大模型，在执行文本生成、语义理解等任务时跑得更快、更省电。
根据 Groq 官方在 2024 年底发布的基准测试结果，搭载 LPU 芯片的 Llama 模型，在大模型推理任务中每秒能生成 500 个 Tokens（文本词元），对比英伟达 H100（FP16） 的 150 个 Tokens 每秒的速度快了约 3 倍，对比英伟达 H200 的 200 Tokens 每秒的速度，也快了两倍多。
在商业模式上，Groq 也与英伟达走出了完全不同的路径。
英伟达靠“ 硬件销售+软件生态” 的组合拳盈利—— 既卖 GPU 芯片和 DGX 服务器等硬件，又通过 CUDA 平台绑定开发者；
Groq 则另辟蹊径，采用“ 芯片即服务” 模式：自己建设数据中心，将 LPU 芯片组成服务器集群，向客户提供云端推理算力租用服务。这种模式让客户无需直接采购硬件，直接通过 API 调用就能体验其芯片性能，大大降低了尝试门槛。
今年 7 月，Groq 宣布在欧洲芬兰建设新的数据中心，进一步扩大云端服务版图，显然是想通过“ 服务先行” 策略快速占领市场。
Groq 的技术手册里藏着不少“ 反套路” 设计。
当行业巨头们比拼 4nm、5nm、7nm 先进制程时，它反其道而行之，选择相对成熟的 14nm 工艺；当英伟达的 H100 GPU 依赖 HBM 高带宽显存提升性能时，Groq 在 LPU 芯片里塞进了 230MB SRAM 高速缓存，靠架构创新弥补制程差距。
这步险棋意外走通了。大带宽 SRAM 让 LPU 的片上内存带宽达到 80TB/s，数据可以在芯片内部高速流转，不必频繁访问板载显存，直接将推理延迟砍掉一半以上。
更关键的是，这种设计让 Groq 避开了 HBM 显存的供应链瓶颈—— 英伟达的 H100 之所以常年缺货，很大程度上受制于 HBM 显存的产能，而 SRAM 的供应相对稳定，让 LPU 的量产更有保障。
架构层面的差异更具颠覆性。
英伟达 GPU 采用“SIMD” 架构，擅长同时处理大量相似任务，但需要动态调度线程，存在一定算力闲置；Groq 的 TSP（Tensor Streaming Processor） 架构则采用“ 流式计算” 模式，将推理任务拆解成固定流水线，通过静态调度让每个时钟周期的算力都得到充分利用。这种设计让单颗 LPU 芯片的算力达到 1000 万亿次运算每秒 （1000 TOPS），在部分机器学习模型上，速度比常规 GPU 甚至谷歌 TPU 快 10 到 100 倍。
Groq 的技术路线虽在推理场景展现优势，但也存在显著短板。
LPU 芯片内置 230MB SRAM 虽能实现高带宽，但单芯片内存远低于英伟达 H100 的 80GB HBM 显存，导致运行大模型时需大规模集群拆分。
正如原阿里技术副总裁贾扬清的推算，运行 Llama-70b 模型理论上需 572 颗 LPU（单芯片 2 万美元，总成本超 1100 万美元），而 8 颗 H100（总成本约 30 万美元） 即可实现相当性能，硬件成本差距达 30 倍以上。尽管实际部署中可通过模型分片优化，但大规模集群的运维复杂度和能耗 （576 颗 LPU 集群功耗约 100kW，8 卡 H100 约 30kW） 仍显著高于 GPU 方案。
更关键的是专用架构的场景局限性：专用硬件的静态调度优势在算法迭代频繁时反而成为劣势，难以像 GPU 通过软件更新快速适配新模型。
生态破局与市场裂缝
技术再强，没有生态支撑也难成气候。英伟达的 CUDA 平台已积累超 400 万开发者，形成“ 硬件-软件-开发者” 的稳固三角，这是任何挑战者都绕不开的高墙。Groq 的破局策略是"借船出海"：尽可能对接现有开源生态，降低开发者的迁移成本。
它首先瞄准了开源大模型社群。Groq 团队花了大量精力优化 Meta 的 Llama 系列、谷歌的 Gemma 等热门开源模型在 LPU 芯片上的运行效率，这些模型本身已积累数百万开发者，只要证明 LPU 能让模型跑得更快，自然能吸引开发者尝试。更关键的是，Groq 在 2025 年推出了开发者控制台，通过友好的编程接口和免费算力 （每月 1000 万 Tokens 的额度） 试用政策，目前吸引了 7.5 万名开发者注册。
价格策略同样服务于生态扩张。LPU 芯片 2 万美元出头的定价，不仅比英伟达 H100 的 2.5-3 万美元低，也比部分中端 GPU 更具吸引力。Groq CEO 乔纳森· 罗斯曾表示，到 2025 年底，Groq 计划部署 150 万颗推理芯片，占据全球一半的 AI 推理计算能力。这番话虽有营销成分，却精准点出了行业趋势——AI 算力投入的重心正从模型训练阶段向推理阶段倾斜。
英伟达当然不会坐视“Groq 们” 蚕食市场。
面对推理芯片的崛起，它已迅速调整策略：推出基于安培架构的 A30/A10 等推理专用 GPU，优化 TensorRT 软件库的推理延迟，并通过 Triton 推理服务器提供端到端加速方案，试图将训练领域的优势延伸到推理市场。
更难撼动的是 CUDA 生态的“ 惯性”。开发者在 CUDA 平台上积累了大量代码和工具链，迁移到新平台需要重新学习和调试，这种“ 路径依赖” 让很多企业宁愿忍受 GPU 的高成本，也不愿冒险尝试新方案。
有行业人士透露，部分企业在与 Groq 接触时异常谨慎，生怕消息走漏后被英伟达“ 穿小鞋”—— 比如延迟交付 GPU，这种隐形压力客观上抬高了新芯片的推广门槛。
然而，市场永远存在裂缝。
2024 年以来的“GPU 荒” 让客户苦不堪言：云计算厂商为了抢购英伟达芯片，不得不提前几个月下单，否则就可能排不上产能。这种供需失衡让企业开始主动寻找“ 第二供应商”，降低对单一厂商的依赖，这为 Groq 创造了窗口期。
更重要的是，AI 芯片市场并非“ 二元对立”。除了英伟达和 Groq，英国的 Graphcore、中国的寒武纪、美国的 Cerebras 等玩家都在各自的技术路线上发力，形成“ 一超多强” 的竞争格局。
Groq 的优势在于，它抓住了沙特等新兴市场的需求—— 中东国家正雄心勃勃地建设 AI 基础设施，既有钱又有场景，还乐于扶持非美国主流的技术供应商以实现技术自主，这种地缘需求为 Groq 提供了理想的“ 试验田”。
然而，面对新兴市场的争夺，初创公司如 Groq 需加速布局—— 因为巨头们也没有停下脚步。继去年 12 月 Groq 在沙特布局后，今年 5 月，英伟达与 AMD 也发现了这一新兴市场，相继宣布在沙特建设芯片制造及 AI 基础设施基地，直接切入中东 AI 算力核心市场，这无疑给后来者增添了竞争压力。
全球 AI 芯片的竞合态势，在中国市场呈现出更复杂的张力。
近期，英伟达宣布 H20 芯片将重新在中国市场销售，虽 H20 受限于算力阈值 （较 H100 略有下调），但凭借成熟的 CUDA 生态和高性能，短期内仍会分流部分对高端算力有迫切需求的企业 （如大模型训练机构、云端服务商），给华为昇腾、寒武纪、壁仞科技等国内芯片企业带来直接竞争压力—— 尤其在需要兼容国际主流框架的场景中，国产芯片的生态适配成本仍需时间抹平。
这种压力也在迫使中国 AI 芯片市场加速“ 场景化突围”。
不同于国际市场聚焦通用算力，中国市场的核心机会藏在垂直场景的深度绑定中：在智慧城市领域，海光芯片支撑的边缘计算节点，能高效处理交通摄像头的实时视频流 （每秒解析 30 路 4K 画面），适配国内复杂的路况算法；自动驾驶赛道，地平线系列芯片已搭载于比亚迪、长城、理想等车企的多款车型，在辅助驾驶系统中负责视觉感知任务。
中国 AI 芯片市场的突围路径，正通过垂直场景的深度绑定逐步清晰—— 避开通用算力的正面竞争，在本土特色场景中打磨技术与生态。
结语
这场 60 亿对 4.2 万亿的较量，才刚刚开始。
它的结局大概不是“ 你死我活” 的零和游戏，而是形成“ 多元共生” 的生态平衡：英伟达继续主导高端 AI 训练市场，Groq 等新锐在推理细分赛道分得一杯羹。
这一格局恰似行业演进的常态：正如智能手机时代，苹果、三星锚定高端市场，小米、传音则在中低端与新兴市场开辟空间，彼此并非替代而是互补；又如 AI 领域，通用大模型与垂直场景的 AI Agent 各司其职—— 前者支撑基础能力，后者深耕具体需求。
对整个行业来说，这种竞争是好事。Groq 的出现至少能迫使英伟达优化推理芯片的成本和性能，让更多企业用得起 AI 算力。毕竟，AI 应用的场景丰富—— 从智能客服到自动驾驶，从医疗诊断到工业质检，不同场景对算力的需求千差万别，既需要英伟达这样的“ 全能选手”，也需要 Groq 这样的“ 专精玩家”。
“ 某种程度上，我们的存在对英伟达反而是一种利好，”Groq CEO 罗斯说。“ 他们可以继续生产那些高利润训练用的 GPU，而我们则接手他们不太想做、低利润但高产量的推理业务。”
当年没人能想到，一家显卡公司能成为 AI 时代的“ 卖铲人”；同理，今天估值 60 亿美元的 Groq，十年后或许会在 AI 芯片版图中占据重要一席。
罗斯直言：“ 你的工作不是跟随浪潮，而是要提前站位，准备好迎接它。”
无论 Groq 最终能否撼动英伟达，它所代表的创新精神和差异化打法都为行业带来了新的思考：在巨头林立的 AI 时代，小团队依然有机会凭借卓越的洞察和执行，实现对大象的“ 蚂蚁撼树”—— 或许不能将之推倒，却足以令大象为之侧目，不得不改变方向。
这正是技术进步最迷人的地方，也是市场竞争的价值所在。
更多精彩内容，关注钛媒体微信号 （ID：taimeiti），或者下载钛媒体 App
