吉祥捕鱼:
一家叫 D-Matrix 的硅谷小公司宣布,他们的新款 AI 推理芯片 Corsair 已经全面量产,这个月就开始发货了。
更让人震惊的是,他们公开叫板英伟达,说这款芯片在 AI 推理方面,速度比英伟达的独立 GPU 快 10 倍,成本只要三分之一,能效还能提升 5 倍。
先给大家说个实在话,AI 芯片这行,英伟达已经垄断好几年了,H100、H200 这些 GPU 一卡难求,价格炒到几十万元一块,很多 AI 公司都喊 “用不起”。
D-Matrix 的 Corsair 芯片,偏偏就在这样一个时间段站出来说 “我能做得更好”,这背后肯定有真东西。
Corsair 芯片是在台积电台湾工厂用 6 纳米工艺造的,一块卡里面集成了 4 个芯片,能直接插在服务器上用。
它的核心秘密就在内存上 —— 传统 GPU 用的是 HBM,虽然容量大,但速度慢,还得频繁和 CPU 交换数据、
有个真实案例很能说明问题,一家做 AI 聊天机器人的公司,用英伟达 H100 跑 Llama 3.1 70B 模型,每秒只能生成 30 个 token。
更重要的是,他们不用再花大价钱买 HBM 了,一块 Corsair 卡的成本只有 H100 的三分之一,这对那些靠推理赚钱的 AI 公司来说,简直是救命稻草。
D-Matrix 不是第一个吃 SRAM 螃蟹的公司,Cerebras 和 Groq 早就靠这个技术赚得盆满钵满,这也从侧面证明了 SRAM 架构的可行性。
连甲骨文都在财报里主动提,说正在部署 Cerebras 芯片,把它和英伟达、AMD 并列为核心加速器供应商。
再看 Groq,此公司更厉害,去年 12 月被英伟达以 200 亿美元收购,创了英伟达史上最大收购纪录。
英伟达收购 Groq 后,今年 3 月就在 GTC 大会上推出了用 Groq 技术做的语言处理单元(LPU),专对于推理任务,黄仁勋还说这是 “世界从未见过的推理性能新层级”。
D-Matrix 能这么快量产,背后离不开微软的支持。去年 11 月,D-Matrix 宣布完成 2.75 亿美元融资,估值达到 20 亿美元,微软旗下的 M12 风投部门就是投资方之一。
这事儿很有意思,因为微软自己也在做 AI 芯片,比如用于推理的 Maia 200 芯片,还和英伟达联合打造新一代 PC 处理器,上周刚发布了自研量子计算芯片。
微软为何需要既自研又投资?答案很简单,AI 推理市场太大了,大到任何一个企业都吃不下。
据统计,2026 年全球 AI 推理芯片市场规模将达到 1200 亿美元,年增长率超过 40%,而推理芯片的需求是训练芯片的 10 倍以上。
微软作为全球最大的云服务商之一,需要更多样化的芯片来满足多种客户的需求,同时也能通过投资掌握更多核心技术,降低对英伟达的依赖。
更值得关注的是中国市场。现在美国出口管制越来越严,英伟达的高端 GPU(比如 H200)根本卖不到中国,只能卖版的 GOC 芯片,性能砍了一大半。
而 D-Matrix 的 Corsair 芯片,专注于推理,不支持训练,正好避开了出口管制的红线。
谢赫就说:“跟着时间推移,我们可能能够向中国运送产品,只是为了更高效地运行 AI 模型,因为我们的芯片不允许他们用它来训练模型。”
看到 D-Matrix、Cerebras 这一些企业挑战英伟达,很多人都在问:英伟达会被取代吗?我的答案是:不会,但它的垄断地位会被打破。
AI 芯片行业的未来,不是谁吃掉谁,而是不同架构、不同场景的芯片各显神通。
先说说英伟达的优势,它的 GPU 生态太完善了,CUDA 编程模型几乎成了 AI 开发的标准,全球大部分 AI 工程师都在用。
而且,英伟达在训练芯片领域的优势短期内很难被撼动,训练需要大算力、大容量,GPU 的并行计算架构正好适合。
黄仁勋也很聪明,收购 Groq 后,马上推出了 LPU,专对于推理市场,这说明英伟达已经意识到了推理赛道的重要性,正在积极应对挑战。
再看 D-Matrix、Cerebras 这一些企业,它们的优势在推理领域,尤其是对速度和延迟要求高的场景,比如聊天机器人、视频生成、无人驾驶、智能工厂等。
更重要的是,它们的技术路线能推动整个行业进步,让 AI 芯片从 “重算力轻内存” 向 “算力内存并重” 转变,这对提升 AI 应用的效率和体验,有很大的帮助。
D-Matrix 的 Corsair 芯片,不是 AI 芯片行业的 “终结者”,而是 “搅局者” 和 “创新者”。
它的出现,打破了英伟达在 AI 推理领域的垄断,让整个行业看到了新的可能性 —— 原来 AI 芯片还能这么做,原来推理速度还能这么快,原来成本还能这么低。
这也给我们一个启示:任何行业的垄断都不是永恒的,只要有创新,就有机会挑战权威。
只有让不同的技术路线相互竞争、相互促进,才能推动 AI 芯片行业加快速度进行发展,才能让人工智能更好地服务于人类。返回搜狐,查看更加多