C114讯4月10日消息在企业级AI基础设施市场上,英伟达毫无疑问占据了先发优势,但英特尔在奋起直追。
北京时间4月9日晚间,英特尔Vision大会召开。英特尔重磅发布了英特尔至强6处理器的全新品牌,推出英特尔Gaudi3加速器,以高性能、开放性和灵活性助力企业推进生成式AI创新,并发布了涵盖全新开放、可扩展系统,下一代产品和一系列战略合作的全栈解决方案,以加速生成式AI落地。
其中,英特尔Gaudi3加速器将会是英特尔对抗英伟达的利器。英特尔CEO基辛格也对此寄予厚望。企业希望将生成式AI从试验阶段扩展到应用阶段。因此,他们需要基于诸如英特尔Gaudi3AI加速器这样的高性能、经济实用、节能的处理器所打造的可快速部署的解决方案。并且,Gaudi3还能满足复杂性、成本效益、碎片化、数据可靠性和合规性等需求。
英特尔表示,英特尔Gaudi3AI加速器将为AI系统提供动力,该AI系统可通过以太网的通用标准连接多达数万个加速器。与上一代产品相比,英特尔Gaudi3将带来4倍的BF16AI计算能力提升,以及1.5倍的内存带宽提升。该加速器将为寻求大规模部署生成式AI的企业带来AI训练和推理方面的重大飞跃。
英特尔Gaudi3预计可大幅缩短70亿和130亿参数Llama2模型,以及1750亿参数GPT-3模型的训练时间。此外,在Llama7B、70B和Falcon180B大型语言模型(LLM)的推理吞吐量和能效方面也展现了出色性能。英特尔Gaudi3加速器提供开放的、基于社区的软件和行业标准以太网网络,允许企业灵活地从单个节点扩展到拥有数千个节点的集群、超级集群和超大集群,支持大规模的推理、微调和训练。
对于Gaudi3芯片,英特尔在此前的新闻通气会上称该产品的能效是英伟达芯片的两倍多,运行AI模型的速度是英伟达H100GPU芯片的1.5倍。
Gaudi系列是英特尔在2022年5月面向人工智能应用场景专门推出的芯片品牌,用以对标英伟达的人工智能计算芯片。英特尔Gaudi3将于2024年第二季度面向OEM厂商出货,包括戴尔、惠普和超微电脑在内的公司将使用该芯片。
C114通信网
TAG:潮流 | 资讯 | 英特尔 | 英特尔Gaudi3加速器 | 英特尔最新消息 | 英特尔Gaudi3性能
文章链接:https://www.lk86.com/zixun/163511.html