在激烈的AI硬件竞赛中,芯片巨头英特尔投下了一枚重磅炸弹。于Vision 2024大会上,英特尔正式发布了其最新一代AI加速器——Gaudi 3。该产品以其卓越的性能参数和开放的生态策略,被视为挑战英伟达在数据中心AI芯片领域绝对主导地位的有力竞争者。
性能对标与技术优势
英特尔在发布会上直接将Gaudi 3与市场标杆英伟达H100进行了比较,展示了其在多个关键领域的性能优势。Gaudi 3旨在为企业提供更高效、更具成本效益的大模型训练和推理解决方案。
训练性能提升: 英特尔表示,对于像Llama2 7B和13B这样的大型语言模型,Gaudi 3的训练时间比H100平均缩短50%。
推理吞吐量领先: 在推理性能方面,Gaudi 3的吞吐量比H100平均高出50%,而能效则平均高出40%,这意味着在提供AI服务时成本更低。
开放的以太网连接: 与英伟达专有的InfiniBand网络不同,Gaudi 3采用了标准的以太网技术,允许企业利用现有的网络基础设施,构建可扩展至数万个加速器的大规模AI集群,降低了部署门槛和总拥有成本。
硬件规格: Gaudi 3采用5纳米工艺制造,配备128GB的HBM2e内存和3.7TB/s的内存带宽,为处理庞大的AI模型和数据集提供了坚实基础。
市场策略与生态系统
英特尔深知,挑战英伟达不仅是硬件的比拼,更是生态的较量。因此,Gaudi 3的推出伴随着一套旨在吸引开发者的开放策略。英特尔强调其对PyTorch等主流AI框架的深度集成,并提供丰富的软件工具套件,以简化模型从现有平台迁移到Gaudi 3的过程。
合作伙伴与未来展望
包括戴尔、惠普、联想和超微在内的多家顶级OEM厂商已宣布将在其服务器产品中集成Gaudi 3加速器。这一广泛的行业支持为Gaudi 3的快速市场渗透铺平了道路。虽然英伟达凭借其新发布的Blackwell平台再次提升了性能标杆,但Gaudi 3的出现为市场提供了急需的替代选择,有望打破一家独大的局面,促进AI硬件市场的健康竞争和价格合理化。