英伟达携手Groq推动AI推理存储技术新变革

近日，科技界再传重磅消息：英伟达（NVIDIA）计划以约200亿美元收购AI芯片初创公司Groq。这一消息引发业内广泛关注，因为此次收购有望成为英伟达有史以来最大规模的并购案。虽然英伟达随后回应称暂未正式收购Groq，而是达成技术授权合作，允许其采用Groq的创新推理技术，但细节依旧令人振奋。

据悉，英伟达与Groq达成非独家许可协议，Groq创始人兼CEO乔纳森·罗斯（Jonathan Ross）以及公司核心团队成员将加入英伟达，共同推动推理技术的升级与产业落地。同时，Groq将保持作为独立运营实体，确保其云服务正常运行不受影响。这一合作旨在巩固英伟达在AI推理领域的布局，加速其在大规模推理市场的竞争优势。

Groq自2016年成立以来，一直专注于AI推理芯片研发，总部位于美国加州山景城。公司创始团队来自谷歌TPU研发背景，曾参与谷歌Tensor Processing Unit（TPU）项目。其代表产品Language Processing Unit（LPU）芯片，采用创新架构实现极高的推理性能，被誉为近存计算的典范。最新一轮融资中，Groq筹集了6.4亿美元，由贝莱德（BlackRock）领投，企业投资力度持续增强，显示其在行业内的领先地位。

2024年8月，Groq在中东达曼建成全球最大推理集群，包含19000个LPU芯片，只用8天时间即完成上线；随后，2025年2月，获融15亿美元，进一步扩展中东基建。其投后估值达69亿美元，累计融资金额超过30亿美元。这些数据表明，Groq的技术实力与市场潜力正持续快速释放，无疑成为英伟达布局AI推理的重要助力。

图片说明：英伟达与Groq合作现场，双方共同推进AI推理存储技术。来源：英伟达官网

Groq的LPU芯片采用14nm制程，配备230MB SRAM，片上内存带宽高达80TB/s。相比传统的DRAM存储方式，SRAM具有更快的访问速度，更低的延迟，有效提升AI推理性能。在大规模推理应用中，SRAM的高速特性确保AI模型的实时响应能力。此外，其采用的近存计算架构，将存储和计算融合，减少数据传输，提高整体效率。

需要指出的是，SRAM虽性能优越，但成本较高，集成度低，单位容量面积大，功耗也偏高，限制了其规模化推广。业内公司正不断探索不同存储技术的融合应用，如Axelera的AIPU芯片采用内存计算技术，将存储单元直接作为计算元，大幅度提高清算速率。这些技术突破标志着存算一体芯片将在未来AI推理中扮演重要角色。

随着AI模型由训练向推理迁移，全球产业界意识到快速响应和低延迟是商业落地的关键。英伟达通过技术合作及人才引进，巩固其从训练到推理的全栈布局。这一策略不仅确保其核心技术处于行业领先位置，也促使整个AI产业迈入百万亿规模的高速增长期。未来，随着硬件与算法的不断融合，AI推理存储的变革势必带来行业新格局。

在国内外布局方面，除了Groq，国内企业如艾克瑟拉（Axelera）也在积极推进内存融合芯片，例如其AIPU芯片采用革命性内存计算方案。相比传统架构，大幅提高了数据处理速度与效率。同时，市场上大量新兴材料和工艺不断涌现，为AI推理存储技术注入新动能。未来，存储与计算的深度融合将成为推动AI高速发展的核心动力。

总的来看，英伟达与Groq此次合作，代表了AI推理存储技术由单一芯片创新向体系化布局的升级。创新技术如SRAM近存、存算一体，将极大提升AI推理的算力与效率，推动产业持续突破。随着产业链共荣共赢的逐步实现，AI将迎来更加广阔的应用空间，行业竞争格局也将重新洗牌。

作为行业观察者，我们有理由相信，未来AI推理存储将成为AI产业的核心引擎之一。而英伟达携手Groq的战略布局，无疑为行业树立了新标杆，未来值得我们持续关注与期待。

【互动话题：您认为此次合作对未来AI产业会带来怎样的影响？欢迎留言交流！】

相关精彩文章：英伟达与Groq深度合作，AI推理存储迎来新篇章