速度暴涨 10 倍、成本腰斩！定制 AI 芯片为何成为顶级大厂共识？

AI 产业的蓬勃发展，很大程度上依托标准化硬件实现，包括高性能 GPU、通用 CPU，以及尽可能充足的高带宽内存 HBM 与普通 DRAM。但近期一系列产业事件 ——AMD 收购 Talaas、Etched 完成 7 亿美元融资、前沿 AI 实验室纷纷自研芯片，都表明：定制化专用硬件在 AI 未来产业格局中的权重，或将远超行业早期的预判。

硬件设计领域，性能与灵活性之间始终存在取舍关系，未来也仍将如此。举例来说，通用 CPU 可以运行各类工作负载，具备不错的执行效率。但如果需要大规模并行执行重数学运算、图形密集型任务，则更适合选用 GPU 这类专用芯片。

Talaas HC1 演示芯片，可接入 PCIe 总线

即便是 GPU 产品内部，芯片厂商也需要针对目标工作负载做取舍。AMD 认为 64 位双精度计算对高性能计算客户至关重要，因此在新一代 Instinct MI430X GPU 中配置了大量 FP64 计算核心。反观英伟达，其预判 AI 业务更多集中在 4‑32 位精度区间，因此新一代数据中心 GPU 便围绕该精度区间做架构设计。

随着 AI 产业重心从模型训练转向推理，芯片设计的固有范式再次被颠覆，倒逼头部芯片厂商重新审视原有技术路线；同时也推动大型 AI 实验室、云厂商加大投入，自研定制芯片。

举个案例：英伟达近一年前曾发布旗舰 AI 推理芯片 Rubin CPX，主打大内存 DRAM 配置；但在 2025 年 12 月战略转向，斥资 200 亿美元收购 Groq 相关资产。Groq 研发了语言处理单元 LPU，这款芯片搭载大容量静态随机存储器 SRAM，主打高吞吐推理。英伟达在次年 3 月的技术大会上正式发布 Groq 3 LPU，面向极致低时延 Token 生成优化，每秒可输出数千 Token；同时 Rubin CPX 已经从产品路线图中悄然移除。

资料来源：Talaas

AMD 也采取了相似动作，两周前官宣计划收购 Talaas。和 Groq 一样，Talaas 的专用 ASIC 芯片目标非常单一：尽可能提升 Token 生成速度。Talaas 在 2 月结束隐匿研发状态对外亮相，其 HC1 演示芯片宣称每秒可生成 16000 个 Token，在特定 AI 模型下性能几乎是第二名芯片的 10 倍。

但该方案存在明显短板：HC1 芯片仅可运行 Meta 的 Llama 3.1‑8B 模型。这家多伦多芯片厂商之所以跑出极高的 Token 生成速度，本质是把 Llama 3.1‑8B 模型权重直接硬布线到硅片硬件内部。这种设计让芯片生成 Token 的速度十分惊人，但几乎完全丧失可编程能力。一旦软件迭代、出现新模型，Talaas 就必须改动硬件来适配，对市场变化的响应速度因此受限。牺牲灵活性，是换取极致速度所要付出的代价。

AMD 收购 Talaas 之后的具体规划尚未对外披露，本次交易条款并未公开，收购流程也还没有完成。但已知 AMD 计划将 Talaas 专用 ASIC，与 EPYC CPU、Instinct GPU 共同集成到上个月新发布的 Helios 整机机柜。借助 ROCm.ai 最新新增的 AI 能力，AMD 或许能够更轻松地将 Talaas 芯片纳入 ROCm 软件生态。

与此同时，初创企业 Etched 也在走定制硬件这条路线。其旗舰产品 Sohu 是一款面向 Transformer 模型的专用 ASIC。Sohu 可运行多款 Transformer 模型，不像 Talaas 芯片那样只能适配 Llama；但它依旧无法执行其他类型 AI 模型，包括卷积神经网络 CNN、长短期记忆网络 LSTM、循环神经网络 RNN（不少人应该还记得这类模型）。
通过针对特定工作负载做硬件专化、剔除所有冗余电路，Etched 的这款 ASIC 实现了巨大的性能提升。企业公开数据显示，Sohu 芯片运行 Llama 70B 模型时每秒可输出 50 万 Token，吞吐量可达 8 卡80GB 级训练型旗舰加速硬件集群的 20 倍。

Etched Sohu 专用 ASIC（图片来源：Etched）

该企业表述：“我们采用芯片‑机柜‑软件‑制造协同设计模式，面向 Prefill（预填充）与 Decode（解码）两类推理任务，让前沿大模型实现行业顶尖水平的吞吐量、时延、成本与能效表现。”

Etched 今日宣布完成 7 亿美元融资，投后估值 210 亿美元。本轮由简街资本（Jane Street）领投，多家机构跟投。简街资本不仅是投资方，同时也是客户，已经上线 Etched 集群投入实际业务。Etched 称，面向公有云、私有前沿 AI 企业，已经拿到合计 10 亿美元订单。

Etched 同时宣布，将向软件栈上层持续拓展创新。自研低压推理 LVI技术：AI 推理阶段动态降频计算核心，以此提升集群整体能效与部署密度；同时推出集群级内存 CSM，属于混合内存子系统，不再局限于单颗芯片，而是在整个集群范围内构建超大共享内存池。

企业官网介绍：“我们的推理系统旨在充分挖掘前沿模型的帕累托最优边界，支持万亿参数 MoE 混合专家模型、超长上下文、智能体业务负载。这需要深度协同设计，覆盖全新芯片、封装、PCB 印制板、冷板液冷、互联接口等全套环节。”
当然，AI 全栈体系仍存在大量待攻克的技术难题。举例来说，英伟达 BlueField4 DPU 数据处理单元至今尚未正式发货，而它是 CMX 架构中至关重要的最后一环，英伟达希望依靠 CMX 架构解决 KV 缓存瓶颈。即便拥有全世界最快的处理器，如果数据无法高效进出芯片，硬件性能也无从发挥。

头部 AI 实验室同样下场自研专用处理器。OpenAI 已经推出首款自研 AI 推理处理器 Jalapeno，由 OpenAI 联合博通研发，Celestica 参与制造，性能参数将在未来数月陆续公布。

Anthropic 同样不甘落后，布局自研芯片。有消息称，Anthropic 正与三星洽谈，希望借助三星先进 2nm 工艺与封装技术开发 AI 训练芯片。这家 Claude 大模型厂商短期内依旧会继续采购英伟达、谷歌、亚马逊的芯片，但已经将自研专用硬件视作未来方向。

三大云巨头也均有自家定制硬件：谷歌云 TPU、AWS Trainium、微软云 Maia。当企业承载全球相当规模的计算业务量时，规模效应足以支撑自研芯片，打造贴合自身业务需求的硬件，云厂商们正是如此。

伴随 AI 产业持续演进，企业越来越看重 AI 项目的实际投资回报，从硬件中压榨出更高性能会变得愈发关键。AI 推理分为预填充（Prefill）和解码（Decode）两个阶段，与传统 AI、HPC 工作负载特征差异显著。在该场景下，即便要承担定制硅片的开发成本，还要接受硬件丧失通用性的代价，在商业层面也具备合理性。

至少从现阶段来看是这样。