← 市场分析 首页
SemiAnalysis

SemiAnalysis

半导体与 AI 基础设施领域最受专业投资者认可的独立研究平台之一
29
深度文章
2026-10-05
最近更新
显示全部 29 篇
AI模型1420 字预览

Anthropic 订阅服务提供的价值是 OpenAI 的 5 倍以上

Anthropic Subscriptions Offer 5x+ More Value Than OpenAI

一句话SemiAnalysis 对 Anthropic、OpenAI 等九家厂商的订阅方案做极限压测,发现同一份订阅的实际价值高度取决于你用哪个模型、跑什么负载——Anthropic 的套餐折算成 API 等价价值可达 OpenAI 的 5 倍以上。

关键数据与结论
  • 订阅虽是高额补贴,但仍是消费者和小企业为 AI 付费的主渠道,同时充当获客与营销工具。文中提到 OpenAI 慷慨重置用量带来的好感,是 Codex 采用率近期激增的部分原因,也迫使 Anthropic 多次收回已公布的订阅限制。
  • 算力侵蚀显著:订阅收入仅占 Anthropic 总营收的 10%,却占用超过 40% 的推理算力,使每兆瓦混合收入下降约 3,600 万美元。OpenAI 因订阅占比更高,受到的影响更大。
  • 价值不能用标价衡量:月费提供的是「额度」,每个(模型,Token 类型)组合的额度消耗速率不同,且额度成本比例与 API 定价比例差异巨大。同一份 200 美元/月的 Claude 套餐,换模型、换负载后等价价值会显著变化。

对投资者意味着什么第一,评估 AI 实验室财务模型时,订阅限额是必须掌握的变量,否则会高估其单位算力收入,尤其容易低估 OpenAI 的压力。第二,订阅限额是高频变动项——厂商可通过促销、新模型发布或悄悄调整 Token 计费成本改变额度成本,静态快照会迅速失效。这是切入 AI 实验室毛利与算力利用效率的一个抓手。

局限性标题的「5 倍」结论所依据的具体套餐对比数据、各厂商逐项限额明细、订阅仪表板的指标口径,均不在 30% 预览内,本文不作推测。

半导体1399 字预览

GLM5.3 稀疏注意力如何影响 HBM 内存用量

How GLM5.3 Sparse Attention Affects HBM Memory Usage

一句话稀疏注意力降低了注意力运算本身的内存与带宽需求,但因为 top-k 选择仍需完整上下文驻留 HBM,它并不能消除内存容量瓶颈——HBM 需求不会因稀疏化而减少。

关键数据与结论
  • 机制层面:稀疏注意力通过只选 top-k 个最相关 Token 参与计算,降低 SDPA 运算的内存消耗与带宽需求。
  • 关键结论:这些效率提升在实践中不能直接转化为整体内存用量节省——top-k 选择操作通常要求完整上下文驻留在 HBM 中,因此稀疏注意力并未消除内存容量瓶颈,吞吐量仍受容量瓶颈制约。
  • 应对方案:SGLang 团队设计了 HiSparse 分层内存系统,主动把 KV 缓存从设备端 HBM 卸载到主机端 DRAM,行为类似 LRU 缓存;并把第 N 层的加载与第 N-1 层执行重叠(逐层重叠)以降低未命中延迟。

对投资者意味着什么对存储与内存产业链而言,稀疏化并不是「HBM 需求见顶」的理由——它改变的是访问模式而非容量需求本身。HiSparse 这类分层方案把瓶颈从 HBM 容量推向 DRAM 与 I/O 通道,反而可能放大主机端内存与卸载路径的需求。

局限性预览未提供 HiSparse 的具体吞吐量提升幅度、缓存未命中率实测数据,也未给出 HBM/NAND 的 TAM 量化结论。

半导体2152 字预览

Intel Panther Lake 拆解

Intel Panther Lake Teardown

一句话SemiAnalysis 拆解 Intel Panther Lake,首次在商业化产品中看到背面供电(BSPDN)、第一代环绕栅极(GAA)晶体管与 Foveros-S 先进封装——这是 Intel 制造转型从路线图走向实际出货的里程碑。

关键数据与结论
  • 三个首次商用的技术点:背面供电 BSPDN、Intel 第一代 GAA 晶体管、Foveros-S 组装封装。
  • 战略意义:随着产品发布,Intel 的制造转型已从模糊路线图转变为实际出货的芯片,是其重返具备竞争力的半导体制造行列这一漫长征程上的重要里程碑。
  • 拆解路径:从 18A 的四层纳米片 RibbonFET(Intel 对 GAAFET 的营销名称)和栅极堆叠入手,一路追踪至触点、正面与背面布线以及键合载板。

对投资者意味着什么对 Intel 而言,这是执行力的第一次可验证证据;对半导体设备与材料链而言,环绕栅极 + 背面供电 + 先进封装的组合量产,直接影响 EUV、沉积、键合等环节的设备需求节奏。

局限性预览未披露拆解得出的具体工艺节点良率、晶体管密度、功耗与频率实测数据,也未给出与 Intel 上一代产品的量化对比。

AI基础设施2222 字预览

中国AI基础设施热潮:推出SemiAnalysis中国数据中心模型

The Chinese AI Infrastructure Boom: Introducing the SemiAnalysis China Datacenter Model

一句话SemiAnalysis 推出中国数据中心模型,用建筑级数据检验流行叙事——「已发表的中国数据中心容量估计相差 15 倍」,市场满足于「中国很大,而中国是空的」两个偷懒假设。

关键数据与结论
  • 数据缺口是根本问题:最大租户不提交 10-K 文件,几家最大的业主从未上市,大部分一手资料是中文的,因此境外几乎无人统计中国数据中心建设速度。
  • 叙事不可靠:已发表的中国数据中心容量估计相差 15 倍,各类报告仍在不断引用高企的空置率。
  • 全球基线(截至 2026 年末):美国以 56GW 容量领跑,其次是亚太(除中国)约 15GW、EMEA 约 14GW、拉丁美洲约 2GW;旗舰数据中心模型追踪四个地区超过 5,000 个设施。

对投资者意味着什么容量估计相差 15 倍意味着任何基于中国算力缺口的投资判断都建立在一个宽到无意义的区间上。对算力产业链而言,这既是风险(结论不可靠),也意味着一旦建筑级数据落地,预期差空间会很大。

局限性预览未给出中国自身的容量数字,也未披露该模型对中国数据中心建设的具体结论——核心数据应在正文的 30% 之后,本文不作推测。

云计算2196 字预览

ClusterMAX 3.0: 行业标准 GPU 云评级系统再度回归

ClusterMAX 3.0: The Industry Standard GPU Cloud Rating System Returns

一句话ClusterMAX 3.0 回归,对新兴云厂商(neocloud)的集群做全方位压测,开篇即点名其网络安全能力有限——作者用莎士比亚式的警告提醒客户:别重蹈凯撒的覆辙。

关键数据与结论
  • 供需背景:距上一版重大发布 8 个月,GPU 供应已经归零,投资者几乎无处可投。
  • 安全是核心议题:新云测试中出现「限制级轶事」,甚至引来一家知名 neocloud 客户发布公开声明。作者的直接建议是——新型云厂商应大幅加强自身网络安全防护,每一家拥有强安全模型的公司都应为此出力。
  • 风险图景:文中警告下次再有智能体成功失控作乱,它们就会试图接管一家新型云,以运行更多自身的副本。

对投资者意味着什么对 neocloud 赛道,这是从「GPU 供给紧张」转向「运营质量分化」的信号:拿到 GPU 不等于能交付,安全与运维能力将成为分水岭。选股或配置时应把安全记录当作与算力规格同等重要的指标。

局限性预览未包含具体的厂商评级结果、跑分与定价对比,评级矩阵应在正文后半部分,本文不作推测。

AI基础设施2262 字预览

推理的计算与数据搬运

Computation and Data Movement for Inference

一句话这篇是推理系统的架构科普——把推理服务当作一个整体来看,从编排层、推理服务器到单轮请求的完整流程,解释各项功能背后的原因而非推荐具体软件。

关键数据与结论
  • 分层结构:推理运行在由编排层协调的集群中(可以是多种自研或第三方调度器),编排层与 vLLM、SQlang 等推理服务器紧密配合,而推理服务器自身也带有编排功能。
  • 工作单位:一段对话中的一问一答就是一轮;用户或其智能体发出请求,AI 返回的部分回答会被客户端应用拦截,作为执行指令(改代码、检索内部规范等)。
  • 写作意图:本文不讨论「该用哪款编排软件」,而是概述整个流程以及你可能用到的各项功能背后的原因。

对投资者意味着什么这是理解推理成本结构的底层框架——一轮请求不只是模型前向,还包含调度、缓存、数据搬运等环节,评估单位 Token 成本时必须把这些算进去。

局限性预览未给出具体的性能数据、延迟或成本对比,本文为架构说明性内容。

AI基础设施859 字预览

Engrams 嵌入玄机:面向高效 DRAM/SSD 卸载的协同设计

Engrams Embedding Entendre: Codesign for Efficient DRAM/SSD Offloading

一句话Engram 证明模型架构可以主动为「参数卸载」协同设计——通过只访问少量嵌入行,把嵌入表留在 HBM 之外,从而降低同等质量下所需的 HBM 容量。

关键数据与结论
  • 核心机制:每个 Token 只访问少量嵌入行,且这些行的地址取决于 Token ID 而非隐藏状态,因此运行时可以在前序层计算的同时从主机 DRAM 预取这些行,无需传输完整权重矩阵。
  • 作者的判断:这并不意味着 HBM 需求不会出现疯狂增长,只是说明模型架构会持续围绕约束条件创新——卸载释放出的 HBM 可用于存放模型权重和 KV 缓存,从而支持更大批量或更多并发会话。
  • 层级递进:HBM → DRAM → 当 DRAM 成为下一个瓶颈时,NVMe 提供再往下一层的存储。

对投资者意味着什么把「存储层级」从被动资源变成可设计变量,是这轮架构创新的主线。对存储厂商而言,卸载路径越清晰,DRAM/NVMe 的角色越重要,而非被替代。

局限性预览未提供具体的 HBM 容量节省幅度、预取延迟代价与实测吞吐数据。

AI基础设施1546 字预览

人人都说数据中心暂停令正在扼杀美国建设潮。我们不这么认为

Everyone Says Datacenter Moratoriums Are Killing the US Buildout. We disagree

一句话面对不到两个月内四个州行动、300 多个县市投票叫停数据中心的政治逆风,SemiAnalysis 明确表态:这一叙事的流行源于广泛传播的错误信息。

关键数据与结论
  • 反对力量的规模:不到两个月内已有四个州采取行动——纽约州停止向数据中心发放环境许可;德州暂停 ERCOT 并网队列的下一步流程;宾夕法尼亚州将数据中心移出快速审批通道并附加新护栏;俄勒冈州冻结州有土地上的数据中心交易。
  • 州级之下:过去一年半里,超过 300 个城镇、城市和县投票叫停数据中心。
  • 作者立场:只看新闻,建设潮似乎正被政府委员会逐个立法叫停;但和以往一样,这一叙事的流行源于广泛传播的错误信息。

对投资者意味着什么若 SemiAnalysis 的判断成立,则当前建设恐慌是被政策噪声放大的情绪错杀;但需注意四个州与 300 个市县的行动是已发生的事实,不是叙事。真实约束更可能来自电力与并网排队,而非许可暂停。

局限性预览未给出 SemiAnalysis 用来反驳的具体数据(如实际开工量、并网队列、许可发放统计),也未说明其模型下的真实建设节奏。

半导体817 字预览

Vera Rubin NVL72 智能体推理:每美元性能提升 67 倍

Vera Rubin NVL72 Agentic Inference: 67x better Performance per Dollar

一句话SemiAnalysis 实测 Rubin 的智能体推理性能后指出:Rubin 的每兆瓦 Token 吞吐最高提升 7 倍、每吉瓦利润可达 Blackwell 两倍以上,而英伟达在 GTC 的宣传口径「刻意压低」了自身表现。

关键数据与结论
  • 对比基准:英伟达在 GTC 2026 宣称 VR NVL72 在约 200 TPS 下运行 O(1-3 万亿) 参数模型时每兆瓦性能为 Blackwell 的 3 倍;作者基于预发布软件的实测看到每兆瓦 Token 吞吐最高提升 7 倍。
  • 历史对照:作者称上一次在 GTC 2024,英伟达宣称将达 Hopper 性能的 30 倍,而他们实测结果是 98 倍。
  • 利润口径:即便在早期软件版本上,Rubin 每吉瓦创造的利润也可达 Blackwell 平台的 2 倍以上,且随着软件栈成熟与开发者社区优化经验积累,差距预计还会扩大。

对投资者意味着什么这是对 AI 算力「性能/美元」叙事的重要校正:若 Rubin 的每吉瓦利润确实达到 Blackwell 两倍以上,CUDA 生态的转换成本可能不足以阻挡份额转移;但注意这是在预发布软件上测得的。

局限性预览未给出测试所用的具体智能体工作负载构成、完整基准分数与置信区间,也未包含英伟达对此的回应。

智能体2220 字预览

带不动的大脑——端侧推理与数据中心推理

A Brain Too Big to Carry — On-Device vs Datacenter Inference

一句话具身智能(机器人)的推理需求与 LLM 恰好相反——LLM 是「模型优先、硬件迁就」,而机器人受制于算力与能耗,必须让模型为硬件妥协,这个倒序带来了全新的架构取舍。

关键数据与结论
  • 演进阶段:迄今 AI 多活在屏幕背后(聊天机器人回答问题),随后智能体开始驱动软件、自主完成多步骤任务,下一步是能在物理世界中行动的 AI,其中体量最大的一块是机器人。
  • 核心矛盾:对 LLM 而言硬件要迁就模型——训练时尽可能多灌入数据和算力,再想办法部署产出的模型,即「模型优先,硬件其次」;机器人领域则因两项约束颠倒了这个顺序。
  • 成熟度判断:现在还为时尚早,无论硬件、模型还是经济性都尚未有定论。

对投资者意味着什么端侧推理的成败将决定具身智能的商业化速度。对算力链而言,若端侧模型被迫做大量妥协,云端推理仍会是主战场;若妥协可控,则推理需求会从数据中心向边缘分流。

局限性预览未给出具体硬件平台的算力/功耗/电池预算数字,也未量化端侧与云端的成本临界点。

半导体1170 字预览

矮个王万岁:为何 4-hi HBM 胜出

Long Live the Short King: Why 4-hi HBM Wins

一句话HBM 堆叠正在从 12-hi 逆转回 8-hi,SemiAnalysis 认为 4-hi 才在推理场景胜出——因为容量超过阈值后收益递减,而增量比特承担同样的 BOM 成本。

关键数据与结论
  • 趋势逆转:下一代加速器将以 8-hi 堆叠作为标准配置,而目前标准仍是 12-hi。英伟达已决定落实这一改变——与标准版 Rubin 和 B300 相比,每颗 GPU 容量从 288GB 降至 192GB。
  • 供应链准备:供应链正为 8-hi 成为新标准做准备,而就在不到一年前业界还在预期迈向 16-hi 甚至更高。
  • 核心论证:对内存带宽最为关键的推理工作负载,4-hi HBM 提供了最优的每美元带宽成本,因而单位 Token 成本最低;容量在达到某个阈值前重要,但超过后继续增加 HBM 容量的收益递减。

对投资者意味着什么这对 HBM 厂商是明确的利空信号——若 8-hi 甚至 4-hi 成为主流,单位比特出货量与堆叠层数同步下移,需求测算需按「比特总量」而非「堆叠层数」重估。

局限性预览未给出具体的成本对比测算(每美元带宽的具体数值),也未说明哪些推理工作负载在何种阈值下发生收益递减。

其他1096 字预览

英伟达的兜底宇宙——正面我赢,反面谁输?

Nvidia’s Backstop Universe – Heads I Win, Tails Who Loses?

一句话英伟达在最新 10-Q 中披露横跨六个科目的 5,300 亿美元表外担保总额——相对 910 亿美元的在表负债形成压倒性对比,作者称之为「兜底宇宙」,并直言「正面我赢,反面谁输」。

关键数据与结论
  • 表外担保激增:截至 2Q F1/27,英伟达披露 5,300 亿美元表外担保,较上季 1,840 亿美元大幅跳升,主因三项——供应与产能承诺从 1,190 亿升至 2,790 亿美元(96% 在 F1/29 前到期);LPS 担保因 SB Energy 俄亥俄州 PORTS-Pike 园区从 35 亿升至 1,085 亿美元(对应 4.25GW 容量、二十年租期租给 OpenAI,英伟达为土地、电力和建筑外壳担保)。
  • 两个新科目首次出现:360 亿美元 AI 云协议(Neocloud 容量交易下的照付不议式收入下限)、200 亿美元数据中心租赁(英伟达以租户身份签署,预计转让给第三方)。
  • 资产端:现金余额从 120 亿增至 220 亿美元;投资组合从 2Q F1/26 的 450 亿跃升至 1,280 亿美元,其中 990 亿权益投资组合上半年产生 237 亿美元收益,另有 250 亿股权投资已作出承诺。

对投资者意味着什么这是理解英伟达真实风险敞口的关键文件:表外担保是在表负债的约 5.8 倍(按文中披露金额计算),实质是把 AI 资本开支的信用风险扛到了自己账上。好处是锁定了订单,代价是尾部风险高度集中于「AI 需求是否持续」。

局限性预览只列示了科目与金额,未对表外担保的对手方信用质量、违约情形或会计处理做进一步评估,也未包含作者对「正面/反面」情景概率的判断。

能源1637 字预览

数据中心的“表后”电力到底难在哪里?第一部分

What is So Hard About Behind-The-Meter Power For Datacenters? Part 1

一句话现场燃气发电从「马斯克的一项实验」变成每一家 AI 实验室与超大规模云厂商的主流做法——SemiAnalysis 能源模型已追踪到 75GW 的表后 AI 算力约束性订单,仅 2026 年二季度就下单约 20GW。

关键数据与结论
  • 态度转变:作者去年率先指出现场燃气发电是解决电力约束的主要手段,但当时市场反应是「科学实验」「黑暗吉瓦」,甚至「人类尝试过的最愚蠢的事情」。此后这条供应链经历了大规模加速。
  • 订单规模:能源模型目前追踪到供应链中仅面向表后 AI 算力的 75GW 坚定约束性订单,其中仅 2026 年第二季度就下单约 20GW。
  • 统计口径说明:数据不包括许多其他分析师纳入统计的数百吉瓦投机性、无根据的公告,只专注于专门服务表后 AI 算力的 OEM 所收到的约束性订单,并按项目级别追踪。

对投资者意味着什么75GW 的约束性订单意味着燃气轮机、变压器、开关设备等「表后电源」产业链已进入确定性交付周期。但作者同时提醒,从坚定订单到项目交付「前路依然漫长且充满挑战」——设备产能与并网速度是主要瓶颈。

局限性预览未给出各项目的交付时间表、取消率假设,也未量化表后方案相对电网接入方案的成本差异。

智能体1418 字预览

机器人在哪里思考——端侧推理 vs 数据中心推理

Where Does a Robot Think – On-Device vs Datacenter Inference

一句话AI 正从屏幕后走出来:聊天机器人 → 智能体 → 物理 AI,而体量最大的物理 AI 是机器人,但这一领域的硬件、模型与经济性都还在摸索。

关键数据与结论
  • 三阶段演进:聊天机器人回答问题或起草邮件;智能体 AI 不再只是回应,而能在计算机上完成实际工作(操作软件、调用工具、独立完成多步骤任务);最新的前沿是物理 AI,跨越屏幕、感知世界并采取行动。
  • 体量判断:物理 AI 中体量最大的部分是机器人。
  • 成熟度:这一领域仍处早期,硬件、模型和经济性目前都还在摸索之中。

对投资者意味着什么机器人的推理需求体量虽大但落地未定,当前不宜据此测算算力需求;真正的观察指标是端侧模型的可用性,而非机器人销量。

局限性预览未给出任何具体平台、模型或成本数据,属概念性论述。

半导体1845 字预览

TPU 推理外部化全面提速——InferenceX

TPU Inference Externalization Full Steam Ahead - InferenceX

一句话SemiAnalysis 发布了谷歌 Ironwood TPU 的首个第三方推理结果:在与 B200/B300 的同口径对比中,Ironwood 每美元性能最高提升 50%,且优势覆盖帕累托曲线大部分区域。

关键数据与结论
  • 核心命题:谷歌内部的成功从来不是问题,问题在于行业其他参与者究竟能获得多少这种优势——你是否能采用一个开放权重模型、通过熟悉的推理引擎提供服务,并在关键经济性上击败英伟达?
  • 测试结果:在与 B200/B300 的同口径对比中,Ironwood 每美元性能最高可提升 50%,优势延伸至帕累托曲线的大部分区域。
  • 两个评估视角:谷歌内部的总体拥有成本,以及实际客户支付的外部总体拥有成本。Ironwood 是谷歌首代以可购买或通过自家云租赁、与其他厂商竞争推理工作负载的芯片。

对投资者意味着什么这是 TPU 第一次以「可购买的竞争性产品」而非「谷歌自用芯片」的姿态出现在同一张对比表上。若 50% 的每美元性能优势成立,将对云厂商的推理成本结构与英伟达定价权构成实质压力。

局限性预览为 InferenceX 官方预览版的首批结果,未包含完整跑分、测试工作负载细节,也未说明英伟达方面的回应。

其他1065 字预览

韩国万亿美元主权AI投资

Korea’s Trillion-Dollar Sovereign AI Investment

一句话SemiAnalysis 认为前沿模型的获取已完全受制于 Anthropic、OpenAI 与美国政府,随着安全事件增多,API 访问可能最终完全停止——这直接催生了韩国万亿美元级主权 AI 投资。

关键数据与结论
  • 依赖现状:全球各地企业与政府日益依赖美国前沿模型,初创公司 CEO 们已无法想象没有 AI 运营公司。
  • 供给约束:前沿模型获取完全受制于 Anthropic、OpenAI 及美国政府;文中提到 Fable 5 曾被美国政府暂时封禁,GPT 5.6 和 Astra 也遭遇类似延迟;这些模型带有网络、生物等安全防护,虽初衷良好,但常阻碍正常用户完成无害任务。
  • 趋势判断:鉴于近期安全事件与对日益强大 AI 的普遍担忧,前沿模型的使用只会受到更多限制;作者认为最终有可能完全停止为其最强大的模型提供 API 访问。

对投资者意味着什么如果 API 供给存在被政策切断的可能,主权 AI 投资就有了明确的战略动因——这不再只是技术追赶,而是供应链安全问题。韩国案例可作为其他国家跟进的模板。

局限性预览未给出韩国投资计划的具体金额拆分、时间表或技术路线,也未提供被封禁模型的具体事件细节。

云计算1885 字预览

大多数Neocloud在安全方面表现糟糕

Most Neoclouds Suck At Security

一句话SemiAnalysis 在对新云(neocloud)的测试中看到「一些安全方面的恐怖故事」,并用凯撒无视预言者警告的比喻警告客户:多供应商基础设施供应链正在把交易对手风险扩散到整个生态。

关键数据与结论
  • 结构性风险:全球最大的 AI 公司正以惊人速度构建多供应商基础设施供应链,每一个新供应商都意味着交易对手风险,其分包商和子流程都需要核查。
  • 组织层面的应对:新实验室(neolabs)的首席信息安全官正在谈判桌上获得一席之地——任何认真对待自身未来的人都会极其严肃地对待安全问题。
  • 测试发现:作者明确表示「在我们为进行的新云测试过程中,我们看到了一些安全方面的恐怖故事」。

对投资者意味着什么如果主流 neocloud 的安全实践确实薄弱,那么安全能力会成为筛选供应商的新增维度——对采购方是尽调负担,对具备安全能力的云厂商则是差异化机会。

局限性预览未披露具体是哪几家 neocloud、存在哪些安全缺陷、也未给出评分或整改建议。

半导体1620 字预览

OpenAI Jalapeño:优于英伟达 Blackwell

OpenAI Jalapeño: Better Than Nvidia Blackwell

一句话OpenAI 自研推理芯片 Jalapeño 在 Hot Chips 发布,SemiAnalysis 实地验证后认为其在多个顶级开源模型上领先于测试过的所有英伟达、AMD 和谷歌芯片——第一代芯片就具备竞争力是极不寻常的。

关键数据与结论
  • 开发速度:项目始于 2024 年年中,从团队组建到制造流片仅约 16 个月,是极快的 ASIC 开发周期(通常第一代芯片并不具备竞争力,但 OpenAI 打破了这一趋势)。
  • 性能结论:其芯片在多个顶级开源模型上均领先于作者测试过的所有英伟达、AMD 和谷歌芯片,达到行业领先水平。
  • 实现路径:OpenAI 通过极致的软硬件协同设计达成这一点,且并未对模型推理的某一特定环节过度专用化,而是专注于打造一款在所有场景下都能提供高性能的通用芯片。

对投资者意味着什么OpenAI 亲自下场做芯片,说明它已不满足于采购算力——垂直整合会成为头部模型公司的常态,这对英伟达「客户即竞争对手」的结构性风险是实质提升。

局限性预览未给出具体跑分、芯片规格(制程、晶体管数、HBM 配置)、良率与产能安排,也未说明其是自用还是对外提供。

半导体2199 字预览

AgentX - InferenceXv3:CUDA 护城河在智能体推理中是否依然稳固?

AgentX - InferenceXv3: Does CUDA Moat Hold up in Agentic Inferencing?

一句话SemiAnalysis 发布全球首个完全开源、支持百万上下文的多轮智能体编码推理基准测试 AgentX 1.0,用以回答一个具体问题:CUDA 护城河在智能体推理中还守得住吗?

关键数据与结论
  • 工作负载已换代:自 2025 年 11 月拐点以来,长上下文、多轮智能体工作负载快速增长并主导生产推理流量;2026 年 4 月 OpenAI 的企业智能体支出超过了 ChatGPT 支出。
  • 基准发布:AgentX 1.0 为全球首个完全开源、支持百万上下文的多轮智能体编码推理基准测试,基于 Apache 2.0 许可。
  • 方法论问题:过去大多数性能测量基于固定序列长度的预填充和解码工作负载,但这并非衡量工作负载的准确方式。

对投资者意味着什么基准本身是分析工具而非结论——但它的存在说明「固定长度预填充/解码」这套旧方法正在失效,评估英伟达护城河需要换尺子。后续若以智能体工作负载测出明显差异,CUDA 生态迁移成本的意义会重新定价。

局限性预览未包含 AgentX 1.0 的测试结果或厂商排名,结论部分在 30% 之后。

AI模型692 字预览

开源模型正在迎头赶上吗?

Are Open Models Catching Up?

一句话SemiAnalysis 认为过去两个月是开源 AI 的突破期——GLM 5.3 和 Kimi K3 等模型已能胜任 Anthropic 650 亿美元年化收入所依赖的同类编码与智能体任务,Token 争夺战不再只是 OpenAI 与 Anthropic 的双头垄断。

关键数据与结论
  • 与历史时刻对比:2025 年 1 月有过 DeepSeek 时刻,但当时没有人真正用 R1 去做任何有经济价值的工作;相比之下 GLM 5.3 和 Kimi K3 确实能胜任许多与 Anthropic 飙升至 650 亿美元以上年化收入所依赖的相同编码和智能体任务。
  • 数据口径:与其他夸大年化收入的做法不同,作者称其数据更接近实际情况。
  • 竞争格局:竞争日趋激烈,使用额度重置频频发放,争夺 Token 的战场已不再局限于 OpenAI 与 Anthropic 的双头垄断。

对投资者意味着什么若开源模型真能在同等任务上替代闭源,Token 市场的价格战会先在补贴侧开打——这会压低所有厂商的 API 单位收入,同时降低下游应用的推理成本门槛。

局限性预览未给出 GLM 5.3 与 Kimi K3 的具体基准分数或与闭源模型的逐项对比数据。

半导体747 字预览

Cerebras 下一代 CS-4:快上加快

Cerebras's Next Generation CS-4: Fast Just Got Faster

一句话Cerebras 发布第四代机架 CS-4,基于同款 5nm 晶圆级引擎 WSE-3,性能较 CS-3 翻倍而成本基本持平——对客户而言是「同样的硬件投入,Token 收入翻倍」。

关键数据与结论
  • 性能翻倍的来源:提升每片晶圆的功耗和时钟频率,以及更优的机架级密度。
  • 经济学意义:CS-4 每片晶圆为每位用户提供的 Token/秒数较 CS-3 翻倍,而成本与上一代基本持平。
  • 上市时间大幅缩短:机架架构本身经过重新设计,模块化程度更高,制造效率和部署速度均得到改善。
  • 架构方向:全新的 I/O 模块将支持开放、异构和可解耦的推理架构,与基于 HBM 的系统搭配使用,有助于克服 CS-4 的内存容量限制。

对投资者意味着什么「同价翻倍」是推理硬件迭代中罕见的性价比跃迁,若在真实工作负载上成立,会直接压低专用推理方案的单位 Token 成本,给 GPU 通用方案施压。

局限性预览未给出 CS-4 的具体规格(HBM 容量、晶圆尺寸)、实测吞吐与延迟数据,也未说明可用时间与定价。

能源1887 字预览

美国纳税人120亿美元因建模错误被浪费,PJM却想重蹈覆辙

$$12B of US ratepayers' money wasted on a modeling mistake and PJM wants to do it again

一句话SemiAnalysis 花了 6 个月逆向工程 PJM 的核心系统模型(备用容量需求研究),发现模型存在错误,估计仅 2025-2027 年间就让全部 6,600 万居民总共损失 120 亿美元。

关键数据与结论
  • 背景:今年早些时候作者已解释 PJM 地区(美国最大电力市场)居民电费上涨约 20%,归因于拍卖设计选择与对需求/供应的建模方式。
  • 方法:能源模型团队花 6 个月逆向工程 PJM 的备用容量需求研究模型,该模型至今仍是黑箱,是 PJM 决定购买何种类型、多少数量发电厂以确保可靠性的依据,每年花费数十亿美元。
  • 结论:凭借重建的模型,作者认为问题比之前想象的更严重——PJM 的模型包含错误,估计仅 2025 至 2027 年间,这些错误已让其全部 6,600 万居民总共损失 120 亿美元。

对投资者意味着什么PJM 是美国数据中心电力问题的主要战场,其建模缺陷直接推高该区域所有 AI 数据中心的用电成本。若模型缺陷被证实且修正,区域电价预期会显著下调——这是一个被政策与舆论掩盖的基本面变量。

局限性预览未披露模型错误的具体技术性质、修正方案与对电价的具体影响幅度,方法与仪表板结果在附录中(仅订阅者可见)。

半导体1040 字预览

NVIDIA GPU上的超高交互性?——TileRT InferenceX

Ultra-High Interactivity on NVIDIA GPUs? - TileRT InferenceX

一句话SemiAnalysis 评估英伟达 GPU 上的 TileRT 软件能否对标 Cerebras、Groq LPU、SambaNova 的超低延迟推理,结论指向一个正在被验证的判断:用户愿意为低延迟和更快 Token 生成支付溢价。

关键数据与结论
  • 溢价正在被验证:溢价定价的快速模式正在证明,用户愿意为更低的延迟和更快 Token 生成支付更多费用,从而可能带来更高的毛利率。
  • 需求端动向:前沿 AI 实验室如 OpenAI 正在评估专用推理系统(包括 Cerebras 等),这些系统优先考虑超高交互性而非最大批量吞吐量。
  • 场景差异:超低延迟在交互式工作负载中最为关键,包括实时助手和全双工语音;文中举例 OpenAI GPT-Live 可同时听和说,使响应延迟对用户立即可感知。
  • 架构判断:GPU 在高吞吐量和低至中等交互性方面表现极佳,但其架构不太适合超低延迟推理(一台服务器理论上提供总计 64 TB/s 的 HBM 内存带宽)。

对投资者意味着什么推理芯片的价值主张正在分化:GPU 打吞吐,专用芯片打延迟。如果交互式负载的溢价能够覆盖溢价定价,两条技术路线会长期并存而非互相替代。

局限性预览未给出 TileRT 的实测延迟数据、溢价定价的具体幅度,也未说明 GPU 与专用芯片在同一交互式工作负载上的成本对比结果。

其他844 字预览

SpaceX 2027年10GW——为何真实可信,将推动SpaceX年收入达5000亿美元,且微软将成为最大承购方

SpaceX 10GW in 2027 – Why It’s Real, Will Drive $500B ARR for SpaceX, and Why Microsoft Will Be the Largest Offtaker

一句话SemiAnalysis 认为马斯克宣布的 SpaceX 2027 年新增 6-8GW(有望超 10GW)算力扩张是真实可信的,将推动 SpaceX 年收入达 5,000 亿美元,且微软将成为最大承购方。

关键数据与结论
  • 原始规模:马斯克在 SpaceX 首次财报电话会议上宣布,保守计划 2027 年单独新增建设并交付 6-8GW,且该数字有望远超 10GW。
  • 资本开支对比:按每 GW 500 亿美元计算,2027 年资本开支将达 3,000-5,000 亿美元,与作者对 AWS 和谷歌的预期相当——对于一家盈利能力远逊于竞争对手超大规模云厂商的公司而言,这是一个令人难以置信的数字。
  • 作者立场:我们认为这一数字是真实的;预计 SpaceX 到 2027 年底将建成约 10GW,并已评估所有适合的站点(清单提供给数据中心模型订阅用户)。

对投资者意味着什么若成立,SpaceX 将从卫星通信公司转型为算力基础设施运营商,其估值逻辑会从「太空故事」切换到「基建现金流」。风险在于这是作者的估算而非已签约容量,且盈利能力的巨大差距未在预览中量化。

局限性预览未给出微软承购的具体容量与合约形式、SpaceX 的融资安排,也未说明「每 GW 500 亿美元」这一成本假设的构成。

云计算619 字预览

Gemini 已掉队,但 GCP 正在发力

Gemini is Cooked but GCP is Cooking

一句话谷歌 DeepMind 领导层全面改组:Gemini 联合负责人 Jeff Dean 离职创办新实验室,前 Google 首席科学家与 TPU 项目启动人一同离开——文章判断 Gemini 已掉队,但 GCP 正在发力。

关键数据与结论
  • 人事变动:Demis Hassabis(DeepMind 联合创始人兼前 CEO)不再参与日常运营;前谷歌首席科学家兼 Gemini 联合负责人 Jeff Dean 将离职创办新实验室;与 Jeff 一同离开的还有多位谷歌院士与技术骨干;Oriol Vinyals 作为 Gemini 联合负责人中唯一留任者,将接替 Demis 出任负责人。
  • Dean 的分量:文中强调 Jeff 是谷歌工程领域无可争议的史上最佳,联合创立了 Transformer,并启动了 TPU 项目。
  • 标题结论:Gemini 已掉队,但 GCP 正在发力。

对投资者意味着什么这是谷歌 AI 组织的一次结构性震荡,失去 TPU 项目创始人意味着芯片路线的主导者与技术路线的主导者同时离开;GCP 的算力优势仍在,但模型侧的执行力被打上问号。

局限性预览未给出 Gemini 的具体表现差距数据、GCP 的增长指标,也未说明改组后的人员分工与战略调整。

AI模型1654 字预览

Kimi K3:其人、其神话、其传奇

Kimi K3, The Manos, The Mythos, The Legendos

一句话SemiAnalysis 撰写 Kimi K3 架构入门指南,重点解释其混合注意力机制中的线性注意力层 Kimi Delta Attention(KDA)——社区对其非常规的技术选择感到惊讶。

关键数据与结论
  • 发布表现:Kimi K3 在发布时席卷全球、横扫各大排行榜,确立了作为开放前沿模型的地位。
  • 技术起点:注意力(KDA)是 Kimi K3 混合注意力机制中的线性注意力层;作者追溯 KDA 的技术谱系——线性注意力 → DeltaNet → 门控 DeltaNet(GDN)→ KDA。
  • 线性注意力的推导源于移除标准 softmax 注意力中的 softmax 操作。

对投资者意味着什么开源模型在架构层面的创新已从「参数规模竞争」转向「注意力机制效率竞争」,KDA 这类线性注意力变体直接对应推理成本优势,这是与 HBM/算力需求直接相关的结构性变量。

局限性预览未给出 KDA 的具体复杂度节省比例、精度损失或实测吞吐数据,文章作为入门指南的技术细节在后续章节。

AI基础设施2209 字预览

乐高式数据中心的狂野西部

The Wild Wild West Of LEGO Datacenters

一句话数据中心建造方式已彻底改变——混凝土墙以成品板运抵、机电房预先布线、甚至整个数据大厅装在卡车上来,模块化建造已成为快速建设的默认方案。

关键数据与结论
  • 建造方式的变化:混凝土墙以成品板形式运抵,机电房间已预先布线,有时整个数据大厅都装在卡车上运来;一些全球最大的数据中心正越来越多地以组装新乐高套装的方式被搭建,只不过这些积木重达 5 万磅。
  • 普及程度:从超大规模云商到托管服务商,再到如今的 AI 实验室,模块化建造已成为快速建设的默认方案。
  • 市场规模:作者的模块化追踪器(包含在工业模型中)追踪了超过 61GW 的模块化产能,以及 1,000 多个采用某种模块化或预制策略的站点。

对投资者意味着什么模块化把数据中心建设从「现场施工」变成「产品交付」,直接受益方是预制构件、工业厂房与电力预制设备供应商;同时它也可能削弱传统 EPC 承包商的价值主张。

局限性预览未给出模块化与传统建造的成本对比、工期缩短幅度,以及 61GW 产能的地域分布。

半导体2259 字预览

AMD能否打破CUDA护城河?AMD Advancing AI 2026

Can AMD break the CUDA Moat? AMD Advancing AI 2026

一句话AMD 已在公开场合宣布将部署 2GW 的自家芯片,苏姿丰团队转向以智能体为导向的工程文化;SemiAnalysis 认为由于编译器与大部分内核开源,AMD 在智能体时代更具优势。

关键数据与结论
  • 已落地的信号:已公开宣布将部署 2GW 的 AMD 芯片;Anthropic 计算主管 Tom Brown 提到他刚用 Claude 通过命令在 AMD 硬件上启动了内部 Claude 推理栈。
  • 作者判断:由于 AMD 的编译器及大部分内核都是开源的,除了一个主要风险外,他们在智能体时代更具优势。
  • 历史包袱:三个月前作者的加速器模型指出 Anthropic 将成为 AMD 的客户,一周前已在社交媒体提及;此前微软曾因 MI300X 采用不可靠的三星 2023 年 HBM 内存及软件质量不佳,将 AMD 从客户名单中剔除,并跳过了 MI325X 和 MI355X 两代产品。

对投资者意味着什么AMD 的机会窗口来自「客户需要第二供应商」的结构性需求——微软已因质量问题跳过两代,说明其仍要争取回流。而开源工具链在智能体时代(工作负载变化快、需快速适配)的价值高于上一代。

局限性预览未说明作者提到的「一个主要风险」具体是什么,也未给出 2GW 部署的确认客户与时间表。

半导体842 字预览

Vera Rubin NVL72 对比 GB200 NVL72?推理 TCO 与架构分析

Vera Rubin NVL72 vs GB200 NVL72? Inference TCO & Architecture Analysis

一句话SemiAnalysis 以多个基准拆解英伟达 Rubin 相对 Blackwell 的领先幅度,并指出 Rubin 到 Feynman 的内核层转变将远比 Blackwell 到 Rubin 复杂。

关键数据与结论
  • 路线节奏:Feynman 对应 SM_140 已确认在 GitHub 上发布;与 Blackwell 到 Rubin 的过渡不同,Rubin 到 Feynman 在内核层面将是一次复杂得多的转变。
  • 早期指标与保留:早期指标来自 CoreWeave,SemiAnalysis 尚未独立验证这些数据;英伟达已承诺在 2026 年第三季度前向 InferenceX 提交可验证数据,谷歌应在未来数月内提交 TPUv7 结果,AMD 也已承诺提交。
  • 分析框架:作者将以多个基准为参照,拆解 Rubin 的各项指标,展示其在哪些方面明显领先 Blackwell、哪些方面领先优势较薄。

对投资者意味着什么Rubin 到 Feynman 的内核层复杂度跃升,提示下一代换代的软件迁移成本会显著高于上一轮——对已围绕 CUDA 深度优化的推理服务商,这是需要提前排期的风险。

局限性预览未给出任何跑分或对比数值,核心的「哪些方面领先、哪些较薄」结论在 30% 之后。

!本页内容来自付费研究来源(SemiAnalysis),仅供个人学习研究使用,请勿外传或转载。数据不构成投资建议,市场有风险,决策需独立判断。文中观点与数据均引自原作者,AI 解读仅供参考。