2026 年 10 月 12 日，无问芯穹 23 亿元 C 轮完成交割，累计融资 43 亿元，创下中国 AI 基础设施赛道的纪录；九个月前，美国的 Fireworks AI 估值还只有 40 亿美元，7 月已跳到 175 亿。同一个行业，同一批买单人，两条完全不同的曲线。本篇回答一个大多数投资者（包括很多从业者）从未认真区分过的问题：AI Infra 创业公司和云厂商，到底是不是一种公司？答案是否定的——而且这个混淆本身，就是定价错误与投资机会的共同来源。本篇是「大模型投资地图」L3 通道层的第一篇：DR.007 讲了训练侧的判定权，这一篇讲推理侧的通行费。
2026 年 10 月 12 日，清华系 AI 基础设施公司无问芯穹宣布 23 亿元 C 轮融资完成交割——成立三年累计融资 43 亿元，单轮与累计规模均创中国 AI Infra 赛道纪录。投资方名单横跨三类资本：社保中关村基金、国开科创、中保投资等国资长钱；腾讯、百度、联想等产业资本；红杉中国、启明、达晨等财务机构。一家不造芯片、不做模型的公司，同时拿到国家级社保基金和互联网巨头的钱，在一级市场对硬科技趋于谨慎的当下，这件事本身就是信号。
把镜头拉远，这一年推理侧的资本事件密集得反常：
海外的曲线更陡。Fireworks AI 在 2025 年 10 月的估值还是 40 亿美元，2026 年 7 月的 D 轮直接跳到 175 亿——九个月 4.4 倍，年化收入跨过 10 亿美元，英伟达连续两轮加注；同月英伟达还布局了 Baseten 与 Together，一口气下注三家推理基础设施公司。一家公司的年化收入从 3 亿美元涨到 10 亿美元用了半年——这个增速，2021 年的 SaaS 巅峰期都没有出现过。
钱为什么现在涌向推理？因为产业的账已经算过来了：训练是一次性的资本开支，推理是持续的经常性收入。国家数据局的口径显示，国内日均 token 调用量从 2024 年初的千亿级别，涨到 2025 年底的 100 万亿，2026 年 3 月突破 140 万亿——两年一千倍。训练市场的天花板是「模型还有多少没做出来」，推理市场的天花板是「agent 还要消耗多少 token」——后者随着智能体落地正在变成无底洞。产业重心从一次性重投入的训练，切换到高频海量的推理，资本只是跟着账本走。
把无问芯穹、硅基流动理解成「做云的小公司」，是当前市场最普遍的误读——很多从业者也不例外。误读的根源是两家公司都带「云」字、都卖算力相关的服务。但用三个问题把两类公司并排放在一起，差别立刻显形。
传统云厂商的核心商品是资源池：机架、带宽、存储、IDC，客户买到的是「确定性容量」。云厂商的护城河是规模杠杆（越建越便宜）和迁移成本（数据与架构锁死在生态里）。而独立 AI Infra 公司的核心商品是效率层：同样的芯片、同样的模型，它能让 token 出得更快、更便宜、更稳。硅基流动的自研推理引擎把各家模型适配到英伟达和昇腾等多类芯片上；无问芯穹把新芯片的适配周期压缩到两个工作日、国产芯片适配成本下降 70% 以上。客户买到的是「单位 token 成本的下降曲线」——断电之后，客户手里留下的是这套效率能力对自身业务的成本结构改造，而不是一排服务器。
云厂商的客户是「要上云的企业」——数字化、建站、存储、数据库，AI 只是新增的一个品类；云厂商服务他们靠的是企业关系、合规资质和一站式捆绑。独立 Infra 公司的客户是「要消耗海量 token 的玩家」：AI 应用公司、创业模型公司（neolabs）、把 agent 塞进生产流程的企业。Fireworks 的客户名单——Cursor、Perplexity、Notion、Uber、DoorDash、Shopify——清一色是「token 消耗大户」，没有一家是因为「要上云」来找它的。硅基流动招股书里的客户结构同理：调 API 的开发者与中小企业、买独占算力的企业、要私有化部署的机构。
云厂商的壁垒是资本开支规模、数据中心区位、政企关系与生态绑定——重资产、高杠杆、规模即正义。独立 Infra 的壁垒是调度与优化的工程能力：Fireworks 靠自研推理内核 FireAttention 把基础设施工程转化为定价权——同样的开源模型，它跑得比客户自托管更快、更便宜，因此可以既收溢价又替客户省钱；无问芯穹靠异构混训把分散在全国的 16 种芯片拼成统一资源池，算力利用率做到 97.6%。这些壁垒不随硬件贬值而贬值——硬件每换代一次，反而需要重新适配一次，适配层的工作量随之增加。
| 维度 | 传统云厂商 | 独立 AI Infra 公司 |
|---|---|---|
| 核心商品 | 资源池：机架、带宽、存储、IDC（确定性容量） | 效率层：同芯片同模型下更快、更便宜、更稳的 token |
| 典型客户 | 要上云的传统企业（数字化、建站、数据库） | token 消耗大户：AI 应用、neolabs、agent 生产流程 |
| 护城河 | 资本开支规模、区位、政企关系、生态迁移成本 | 调度与推理优化算法、异构适配、多芯片工程能力 |
| 收入杠杆 | 重资产高杠杆，规模即正义，折旧是命门 | 轻资产软件杠杆（无问芯穹不持硬件；Fireworks 半托管） |
| AI 时代的软肋 | 算力体系优先自用、模型商店与自研模型存在身份冲突 | 算力靠外采或租借、上游涨价直接吞噬毛利、缺乏企业关系网 |
如果说独立 Infra 公司有一块天赐的生存空间，那这块空间是云厂商自己的身份冲突让出来的。今天的头部云厂商在 AI 推理市场里同时扮演三个角色：
三重身份的矛盾在角色二与角色三之间：当云厂商的模型商店同时卖自家模型和竞品模型，竞品的模型厂商就有充分理由怀疑自己的流量数据、调用特征、甚至下一代需求被隔壁的自研团队看在眼里。这不是猜测——硅基流动招股书里「独立」二字是核心卖点，无问芯穹把「不与客户形成业务竞争」写成战略边界，智谱、月之暗面这些头部模型厂商之所以跟独立 Infra 深度合作而不是全部自建，图的正是这层中立。
这一点与 DR.007 的结论形成了刻意的对仗：训练侧，Scale AI 死于中立性破产——被 Meta 收购的那一刻，它的裁判资格即刻吊销；推理侧，独立 Infra 公司的估值溢价恰恰建立在「永远不会被任何一家球员收购」的承诺上。中立性在训练侧是幸存者的勋章，在推理侧是商业模式的地基。同一种品质，在产业链的两个环节，一个变成了遗言，一个变成了招股书的第一页。
还要补一层行业结构视角：国内算力生态里，芯片厂商的平台绑定自有硬件（昇腾生态不接寒武纪），模型企业的算力体系有同业壁垒（智谱的池子不会开放给竞品优先适配），云厂商算力优先自用——三个「优先自用」叠在一起，全行业缺一个通用、中立、开放的调度底座。海外生态统一（英伟达一家通吃），Together 和 Fireworks 不需要做异构适配；中国的碎片化把这个环节的必要性放大了三倍。海外的推理 Infra 是效率生意，中国的推理 Infra 是效率生意加上「统一度量衡」的基建生意。
海外的推理 Infra 公司不需要解决异构问题——英伟达一家占住生态，Together 与 Fireworks 的工程精力都花在「把同一个模型跑得更快」上。中国的独立 Infra 公司则要先回答一个更原始的问题：你手上的模型，能不能在我手上的芯片上跑起来、跑得快、跑得便宜？
这个问题的来源是结构性的：出口管制之下，国内算力供给呈现多芯片、多代际、多地域并存的碎片化格局——英伟达（存量合规卡）、AMD、华为昇腾、海光、天数智芯、沐曦、摩尔线程等软硬件体系并存，大量算力分散在各地数据中心，存量闲置、跨域调度困难、异构适配成本高。每一个国产芯片品牌都有自己的软件栈，模型在芯片间迁移不是改两行配置，而是重做一遍算子适配与性能调优。对单个模型厂商而言，为每种芯片养一支适配团队是不经济的；对芯片厂商而言，平台只绑定自家硬件。于是「适配」这个脏活悬在空中——直到无问芯穹们把它捡起来做成了产品。
无问芯穹的数据值得逐项看：37000P 可调度算力、覆盖 16 种主流芯片；全球首个千卡规模异构芯片混训平台，华为昇腾、天数智芯、沐曦、摩尔线程四款国产芯片分别与 AMD、英伟达混合训练，峰值算力利用率 97.6%——异构混训的利用率能到这个数，意味着调度层几乎没有浪费，这在业界此前被认为做不到。更具象的一个案例：联合中国电信完成国内首例超 4000 公里的大规模跨域混训，训练链路从新疆哈密延伸到广东深圳，支撑 300 亿参数模型稳定训练——把分散在两个大区、不同厂商的算力池拼成一个逻辑集群。这套能力没有一个环节依赖「拥有硬件」，全部依赖软件调度——这正是它敢走轻资产路线的底气。
把中美两家代表性公司放在同一张财务显微镜下，会看到这条赛道最刺眼的一组数字。Fireworks AI：2026 年 7 月年化收入超 10 亿美元，毛利率约 50%，并告诉投资人目标做到 60%。硅基流动：2025 年营收 5533 万元人民币（同比 +653%），毛利率 -24%，其中公有云服务毛利率 -119%，净亏损 3.45 亿元。同样是「推理优化」的生意，毛利率差了 74 个百分点——这不是执行力差距，是两种生意结构的差距。
鸿沟由三个结构因素叠加而成。第一是算力获取方式。Fireworks 与硅基流动都不自建数据中心，但成本结构截然不同：硅基流动招股书披露，算力资源成本占销售成本的 86.9%——它必须提前采购或预留算力，而客户调用量不稳定，资源闲置时成本照付，这本质上是「批发进、零售出」的价差模式，扛着库存风险。Fireworks 的 GPU 成本同样在货成本里，但它有独占部署（dedicated deployment）与 reserved capacity 这类长约业务垫底，客户按 GPU 秒/小时付钱，利用率可规划。
第二是优化能力的变现深度。Fireworks 的 FireAttention、Multi-LoRA 等自研技术不只是降本，更是定价权的来源：多租户把众多微调变体合并到同一份基座部署上，摊薄单位成本的同时把客户留在平台并鼓励更高频的微调——优化直接变成了毛利。硅基流动的推理引擎同样自研，但它的主力收入（公有云 API）处在惨烈的价格战里：同样的开源模型，DeepInfra 们把价格打到地板，头部大厂（字节、阿里）的推理 API 又在补贴冲量，中间层没有定价权。
第三是客户结构。Fireworks 的大客户是 Cursor、Uber、Shopify 这类把推理当生产依赖的公司，对稳定性和速度付溢价、签长约；中国市场当下增量最快的客户对价格极度敏感——行业里推理 API 价格战已经打到「一折」级别。补贴冲量的云厂商、地板价的 DeepInfra、要活命的创业公司三方夹击，中间层的毛利被结构性压扁。
老规矩，把这一轮推理热潮里的所有信息过一遍筛子。判据不变：是否包含真金白银的对价，或不可撤销的行为。
| 判定 | 信息 | 理由 |
|---|---|---|
| 信号 | 国家数据局口径：国内日均 token 调用量 2024 年初千亿级 → 2025 年底 100 万亿 → 2026 年 3 月突破 140 万亿 | 监管口径的总量数据，无利益相关方粉饰动机，两年千倍的需求曲线是整条赛道的地基 |
| 信号 | 无问芯穹 Agentic MaaS 日调用量较 2025 年 12 月增长 40 倍；推理成本一年下降约 10 倍 | 供给侧的成本下降与需求侧的调用量增长互为因果——成本每降一次，新场景解锁一批，这是飞轮在转的实证 |
| 信号 | 英伟达连续加注 Fireworks、Baseten、Together 三家 | 最懂 GPU 的人用真金白银投票：GPU 产业链已把推理服务定义为核心增量市场。芯片厂对下游环节的判断，通常领先公开市场两个季度 |
| 信号 | 无问芯穹 C 轮同时引入社保中关村基金、国开科创与腾讯、百度 | 国家级长钱与产业对手同时出现在股东名册——产业上下游对「统一调度层」位置的战略认同，超过了财务分歧 |
| 噪音 | 融资额与估值跳升本身（$17.5B、43 亿元等） | 一级市场估值是谈判产物。Fireworks 17.5 倍 ARR 的定价已包含大量乐观预期；融资新闻稿不是审计报告 |
| 噪音 | 「推理是万亿级产业」「AI Infra 天花板持续抬升」式叙事 | 方向可能对，但不可验证、无法下注、无法证伪。市场规模预测是投行材料的装饰品 |
| 噪音 | 年化收入（run-rate）口径的高增长 | Fireworks 的 $1B+ 是自报年化而非审计收入；run-rate 在融资季天然虚高，且可能高度集中于单一客户（Cursor 约占其一半） |
| 噪音 | 「性价比吊打 frontier API」的推理价格对比文 | 同任务 625 倍价差是真实区间，但多为低质量场景的极端样本；质量损耗从未出现在这类对比里 |
信号论给这一篇的收束判据只有一条：单位 token 成本的下降曲线是谁在推动——谁在推动，谁拿走通行费。
把这条曲线的驱动力拆开，能看到三个层次。第一层是硬件迭代——新卡的每美元吞吐提升，这层的受益人是英伟达和机房，与 Infra 公司无关。第二层是推理架构优化——PD 分离、连续批处理、多 LoRA 合并、投机解码、算子融合，这层的受益人是掌握这些技术的 Infra 公司：无问芯穹的 PDD 跨集群异构分离架构把首 token 延迟降 51.5%、单 token 成本降 37.5%；Fireworks 的 FireAttention 与 Multi-LoRA 把优化直接转化为定价权。第三层是调度与利用率——碎片化算力的跨域拼池、混部利用率提升，这层的受益人是调度层公司：无问芯穹的 97.6% 混训利用率每提高一个点，都是在别人的固定资产上赚自己的钱。
用 DR.007 的句式重述一遍：训练侧，谁掌握「判定对错」的能力，谁收判定税；推理侧，谁掌握「压低单位成本」的能力，谁收通行费。两条曲线本质是同一条——AI 从实验室走向产业的每一步，都由某个环节的成本下降曲线铺路；曲线的斜率由工程能力决定，斜率的收益归工程能力的持有者。训练侧的曲线已进入平台期（预训练 scaling 边际递减），推理侧的曲线还在陡峭下行——这就是资本从 L2 粮草层挪向 L3 通道层的根本原因，也是本篇作为「大模型投资地图」L3 开篇的时机依据。
这条判据同时给出了证伪条件：一旦 token 单价降幅主要由芯片换代或价格战驱动、而非工程优化驱动——也就是曲线的斜率不再属于 Infra 公司——它们的通行费就会萎缩成价差，估值逻辑随之退化为「算力二房东」。盯季度数据时，把「成本下降归因拆解」作为第一张表。
这个赛道的公开市场窗口正在打开，但开门方式截然不同。港股 18C（未商业化公司章节）成了中国 AI Infra 的集体选择：硅基流动 2026 年 6 月 30 日递表、九章云极 9 月底递表「智算新云第一股」、无问芯穹传闻保密递表最早 2027 年上半年登陆。三家挤同一个窗口，说明创始团队对「一级市场估值见顶、须在叙事冷却前锁定公开定价」有共识；对二级市场投资者，这既是机会——终于有能按招股书细看的标的——也是警示：18C 规则允许未盈利公司上市，招股书里硅基流动 -24% 的毛利率和 3.45 亿亏损会原样呈现在定价里。
四个值得按季度盯的指标。一、毛利率结构：中国两家递表公司招股书的毛利走向——若两年内从负转正且算力成本占比从 87% 下降，说明优化层开始变现，「真 Infra」逻辑成立。二、成本下降归因：token 单价降幅里，工程优化的贡献占比——这是第七章判据的直接量化。三、头部模型厂商的算力外采比例：智谱、月之暗面们把多少推理流量交给独立 Infra——中立性溢价是否真实兑现。四、Fireworks 的客户集中度：SpaceX 收购 Cursor 案落地后，其收入结构是否塌方——这一案是海外推理 Infra 需求成色的试金石。
回到最初的混淆：AI Infra 创业公司是不是小云厂商？本篇的回答是：它们是云厂商的身份冲突让出来的那道裂缝里的收租人。云厂商想通吃——既当房东又开商店还下场踢球——但越是大而全，越是不能中立；模型厂商与芯片厂商各有各的墙；于是「不造芯片、不做模型、不与客户竞争」的第三方，成了整条产业链唯一所有人都敢把后背交给它的角色。
这条裂缝的宽度，由三个变量决定：token 消耗的指数增长（需求侧，已在兑现）、单位成本下降曲线的工程归因（供给侧，正在兑现）、以及中国算力碎片化的持续时间（结构侧，短期看不到终点）。三个变量里没有一个依赖「模型能力再上一个台阶」——换句话说，即使大模型的下一次跃迁迟到两年，推理经济学的故事照常运转；而一旦跃迁到来，token 消耗只会更猛。这是少有的、下行有结构托底的方向性判断。
但裂缝不是保险箱。毛利率鸿沟提醒我们：方向正确与公司正确之间，隔着成本结构、客户结构、价格战烈度三道筛子。硅基流动负 24% 的毛利率与 Fireworks 正 50% 的毛利率，是同一个故事在两个市场里的两种命运。投资这一层，买的不是「推理会爆发」——那已经是共识；买的是「这家公司持有推动成本曲线的工程能力，且这道裂缝不会在自己的毛利率里先塌方」。
大模型投资地图的 L3 通道层，本篇开了第一枪。下一站，大模型路由器——当模型成为商品，谁来当券商。
数据截至 2026 年 10 月 12 日；估值为私募口径，收入为自报年化或招股书口径，均未经审计。
| 公司 | 成立 | 定位一句话 | 关键数据 | 本篇判定 |
|---|---|---|---|---|
| 无问芯穹 | 2023 | 中立异构算力调度层：「不造芯片、不做模型」，类台积电的算力代工 | C 轮 23 亿元、累计 43 亿（国内纪录）；37000P / 16 种芯片 / 混训利用率 97.6%；推理成本年降 10 倍；日调用半年增 40 倍 | 中国裂缝战争的定义者：调度故事 + 轻资产；待验证：IPO 与毛利结构 |
| 硅基流动 | 2023.8 | 独立 Token 供给平台：模型 API + 企业 MaaS + 私有化 | 2026 年累计融资近 29 亿；18C 递表港交所；2025 营收 5533 万（+653%）/ 净亏 3.45 亿 / 毛利率 -24%；用户 1000 万+ / 日吞吐 5785 亿 token / 170+ 模型 | 招股书是最诚实的行业教材：需求真、毛利负；算力外采模式扛价格战能力是关键风险 |
| 九章云极 | 2013 | 从 AI 基础软件转型智算云：「智算新云第一股」 | 2026.9 递表港交所 | 转型样本：看其智算业务的毛利结构能否摆脱集成商色彩 |
| Fireworks AI | 2022 | 开源模型的最优运行地：自研推理内核 = 定价权 | D 轮 $15 亿 @$175 亿（9 个月 4.4 倍）；年化收入 $10 亿+；客户 1 万+；毛利率约 50%（目标 60%） | 海外裂缝战争的标杆：优化即毛利；风险：Cursor 约占收入一半、run-rate 自报 |
| Together AI | 2022 | 最全模型目录（200+）+ 微调平台 | NVIDIA 布局；Llama 3.3 70B 定价三家最高（$1.04） | 广度路线：目录即获客，但同模型价格战下议价力承压 |
| Groq | 2016 | 自研 LPU 芯片的速度路线：最快、不支持微调 | 累计融资 $6.5 亿（2026.6）；~500 tok/s；Llama 3.3 70B $0.59/$0.79 最低 | 半_infra 半芯片：速度换溢价，但目录受限（约 50 模型）且架构与微调不兼容 |
| DeepInfra | — | 价格地板玩家 | 同模型价格对标最低线 | 价格战的执行者：它活着一天，中间层的毛利就承压一天 |
| 云厂商 | — | 三重身份：房东 + 模型商店 + 参赛选手 | 推理 API 量价齐升但收入不可拆分 | 裂缝的制造者：身份冲突让出中立空间；价格战的主要发动者 |
本附录与头哥的技术研究报告《推理成本与 Token 生产》同源：把正文第五章「毛利率鸿沟」背后的工程逻辑拆开——Infra 公司的毛利，到底来自哪几个技术环节。
第五章留下的问题是：同样是推理优化，为什么 Fireworks 能做到 50% 毛利，硅基流动却是 -24%？要回答它，必须先理解推理系统本身是一条怎样的生产线。核心结论先行：推理的瓶颈常常不是「算力不够」，而是显存容量与带宽、缓存命中率、批处理效率、通信和排队之间的组合约束——谁能在这组约束里持续腾挪出空间，谁的毛利就有工程根源；谁的「优化」只是搬运算力，谁的毛利就只剩价差。
一次典型的文本生成分两个阶段，消耗资源的方式完全不同。Prefill（预填充）：模型并行读完整个输入，为后续生成建立 Key/Value 状态（KV Cache）——这一段可以对所有输入 token 并行计算，属于计算密集，用户感受到的是首字延迟（TTFT）。Decode（解码）：模型逐个生成后续 token，每一步都要读取全部模型权重和已有 KV Cache——低并发时系统反复从显存搬数据，属于访存密集，用户感受到的是出字速度（TPOT）。
两个阶段的瓶颈不同，是「一个 GPU 池同时处理所有阶段未必最优」的根本原因：把长输入的 Prefill 和正在流畅输出的 Decode 混在同一批资源里，前者会卡住后者。这正是无问芯穹 PDD 跨集群异构分离架构（首 token 延迟降 51.5%、单 token 成本降 37.5%）与英伟达 Dynamo 推荐分离部署的理论出发点——把不同工序放进不同的资源池，分别扩容。但分离不免费：Prefill 产出的 KV 状态要跨节点传输，占用网络与调度资源；小模型、短输入、低并发场景下，合并部署反而更快。收益取决于模型结构与流量形态，不存在普适最优解。
解码时如果每生成一个 token 就重算整个上下文，成本会不可接受；KV Cache 把历史状态存下来换时间，代价是吃显存。它的占用量随序列长度、并发数、层数线性放大——由此推出推理经济学最重要的一个误区纠正：「显存装得下模型权重」不等于「能高效服务很多用户」。装得下只回答可运行性；KV Cache、激活、缓冲还要分走显存，能支撑的并发与上下文长度才决定服务成本。
围绕这块显存有两个关键工程。PagedAttention：借鉴操作系统分页，把动态增长的 KV Cache 分块管理，消除按请求预留整块连续空间造成的碎片，其论文在特定条件下报告了 2-4 倍吞吐提升（实验口径，非通用增幅）。前缀缓存：系统提示、工具说明等重复前缀的 KV 状态只算一次、多次复用，省掉重复 Prefill——但它的经济价值取决于重复率、缓存驻留时间与请求路由亲和性：请求被随意分发到不同机器，缓存就冷了；缓存留太多，又挤占并发的显存。缓存不是免费加速，是用显存容量换重复计算的减少——这就是为什么调度能力（把相似的请求送到缓存放着的机器上）本身构成壁垒。
推理优化的宣传材料最喜欢把各种技术的加速倍数相加，但它们作用于不同层面、各有代价，不能叠加。下表是核验清单：
| 技术 | 解决什么 | 可能的收益 | 必须核验的代价 |
|---|---|---|---|
| 连续批处理 | 用并发摊薄权重读取 | 提高利用率与吞吐 | 批越大排队越久，吞吐与延迟动态权衡 |
| Paged KV Cache | 显存碎片 | 更高并发、更少浪费 | 分块与调度实现影响实际收益 |
| 前缀缓存 | 重复 Prompt 的重复计算 | 降 Prefill 成本与首字延迟 | 依赖复用率、驻留策略、路由亲和 |
| FlashAttention 等融合内核 | Attention 的显存往返 | 提高算子效率 | 收益依赖序列长度、硬件与模型形态；开源追平则难独占 |
| 量化（权重/KV） | 显存占用与数据搬运 | 更高并发或吞吐 | 精度损失、任务成功率、长上下文效果必须复测 |
| 推测解码 | 逐 token 生成的串行延迟 | 草稿提议+并行验证，保分布减步数 | 草稿接受率低时无收益，草稿本身有成本 |
| Prefill/Decode 分离 | 两阶段资源需求错配 | 两类 worker 独立扩容 | KV 跨节点传输开销；低并发下合并更快 |
| 张量/专家并行 | 单卡装不下的大模型 | 扩展规模与集群容量 | 通信成本、拓扑、负载均衡 |
投资视角的核验要点只有一句话：这项优化是进入了客户的实际运行路径，还是只存在于发布会材料里。开源社区都能拿到的通用内核（vLLM、FlashAttention）构成行业底线，不构成壁垒；针对特定模型、硬件与生产负载的端到端调优，才可能形成持续的工程溢价。
推理成本不只由推理引擎决定，模型架构直接规定每个 token 要算什么、读什么。MoE（混合专家）：DeepSeek-V3 总参数 671B，每个 token 只激活约 37B——计算大幅减少，但「激活 37B」常被误读成「只需要装 37B 的显存」：全部专家权重仍需驻留，专家路由还引入跨设备通信与负载不均问题。瓶颈从算力转移到了显存容量与通信。MLA（多头潜在注意力）：DeepSeek-V2 用架构手段把 KV Cache 压缩 93.3%（论文特定口径）——这意味着推理成本优化已经前置进模型设计阶段。
token 不是质量统一的商品：不同分词器切出的 token 数不同；推理模型会产生用户不可见的思考 token；agent 完成任务要连续调用模型、检索与工具；失败重试再烧一遍。因此商业上更诚实的指标不是每 token 成本，而是——
每个成功任务成本 = 该任务的全部模型与系统调用成本 ÷ 任务成功概率
一个便宜模型若需要多次重试或大量人工复核，它的成功任务成本可能反而更高。这也修正了对「token 调用量暴涨」的单一解读：agent 时代每个任务的 token 消耗在上升，但每个成功任务耗费的人力与时间在下降——判断市场是否成立，要看后者。本篇第六章的调用量信号（40 倍、140 万亿），只有与任务成功率、留存率结合，才是完整的需求证据。
任何「吞吐提升 X 倍」都必须追问比较条件：模型版本、精度、输入输出长度、并发、硬件、批处理设置、SLA 要求、是否计入冷启动与排队。缺少这些，跑分不构成成本证据。核验一家 Infra 公司时，正反两张清单：
| 可能形成护城河的因素 | 需要警惕的因素 |
|---|---|
| 对特定模型、硬件、流量负载的端到端调优；多芯片多模型适配降低客户切换成本；集群利用率与稳定性；缓存-引擎-网络-调度联动；足够大的真实流量持续改进调度模型；企业级数据治理与服务等级 | 仅以通用开源内核或单一算法为壁垒；用峰值吞吐冒充线上效率；只说「激活参数少」不披露权重驻留与通信成本；低价 GPU 或 API 是唯一优势；MaaS token 收入与高毛利软件收入混报；过度依赖单一模型/芯片/云供给；客户可轻易迁移而平台无更深工作流价值 |
最后把附录 B 接回正文第五章：Fireworks 的 50% 毛利，对应的是右列稀缺、左列齐备——自研内核进入生产路径、独占部署长约垫底、大客户为稳定付溢价；硅基流动的 -24%，对应的是左列尚未成型、右列悉数命中——算力外采占成本 87%、公有云陷价差战、客户对价格极度敏感。毛利鸿沟不是运气差距，是两张清单的勾选结果。附录 D 将以硅基流动招股书为样本，把这张清单逐项过一遍。
本文为行业研究，不构成投资建议。一级市场估值与自报收入未经审计，引用时已标注口径。数据截至 2026-10-12。
本文的独立附件：附录 D ｜ 硅基流动招股书解剖：一份 18C 申请书里的推理经济学