英特尔为数据中心带来更强大的人工智能训练和推理

2023-05-15 0 364

英特尔为数据中心带来更强大的人工智能训练和推理

英特尔周二推出了最新一代的用于训练和推理的深度学习处理器 Habana Gaudi2 和 Habana Greco,使人工智能对其数据中心客户来说更容易获得,也更有价值。 在其 Intel Vision 活动中,这家芯片制造商还分享了有关其 IPU 和 GPU 产品组合的详细信息,这些产品都是针对商业客户的。

“人工智能正在驱动数据中心,”英特尔专注于人工智能深度学习处理器技术的数据中心团队 Habana Labs 首席运营官 Eitan Medina 早些时候对记者表示。 “这是最重要且增长最快的应用程序。但不同的客户正在为不同的应用程序使用不同的组合。”

不同的用例解释了英特尔对各种数据中心芯片的投资。 Habana 处理器专为需要深度学习计算的客户而设计。 例如,新的 Gaudi2 处理器可以改进自动驾驶汽车、医学成像和制造业缺陷检测中使用的应用程序的视觉建模。 英特尔在 2019 年以约 20 亿美元的价格收购了总部位于以色列的可编程芯片制造商 Habana Labs。

第二代 Gaudi2 和 Greco 芯片均采用 7 纳米技术,比第一代的 16 纳米技术有所改进。 它们是在 Habana 的高效架构上制造的。

英特尔周二表示,对于 ResNet-50 计算机视觉模型和 BERT 自然语言处理模型,Gaudi2 的训练吞吐量是 Nvidia A100-80GB GPU 的两倍。

Medina 在一份声明中表示:“与在相同工艺节点和大致相同芯片尺寸中实现的 A100 GPU 相比,Gaudi2 提供了明显的领导力培训性能,这在关键工作负载的同类比较中得到了证明。” “这种深度学习加速架构从根本上更加高效,并有强大的路线图作为后盾。”

更多关于高迪2:

与第一代 Gaudi 相比,它在使用 Amazon EC2 DL1 实例的 AWS 云中和使用 Supermicro X12 Gaudi Training Server 在本地提供了高达 40% 的性价比
引入用于压缩媒体和卸载主机子系统的集成媒体处理引擎
Gaudi2 在 2.45TB/秒带宽下将封装内内存容量从 32GB 增加到 96GB 的 HBM2E
片上集成 24 个 100GbE RoCE RDMA NIC,用于使用标准以太网进行纵向扩展和横向扩展
Gaudi2 处理器现在可供 Habana 客户使用。 Habana 已与 Supermicro 合作,于今年将 Supermicro Gaudi2 Training Server 推向市场。

同时,第二代 Greco 推理芯片将从今年下半年开始面向部分客户提供。

有关第二代 Greco 的更多信息:

包括增强卡上的内存,基本上获得 5 倍的带宽并将片上内存从 50MB 推至 120MB
添加媒体解码和处理
提供更小的外形以提高计算效率:从双槽 FHFL 到单槽
“Gaudi2 可以帮助英特尔客户以速度和效率训练越来越大和复杂的深度学习工作负载,我们期待 Greco 带来的推理效率,”英特尔执行副总裁 Sandra Rivera 在一份声明中说。

英特尔周二还公布了其基础设施处理单元 (IPU) 产品组合的扩展路线图。 英特尔最初为云巨头——谷歌和 Facebook 等超大规模企业——构建 IPU,但现在它正在扩大访问范围。

英特尔明年将出货两款 IPU:英特尔首款 ASIC IPU Mount Evans 和英特尔第二代 FPGA IPU Oak Springs Canyon,后者将出货给谷歌和其他服务提供商。

在 2023 年和 2024 年,英特尔计划推出其代号为 Mount Morgan 和 Hot Springs Canyon 的第三代 400GB IPU。 到 2025 年和 2026 年,英特尔预计将向客户和合作伙伴出货 800GB 的 IPU。

英特尔周二还分享了其代号为 Arctic Sound 的数据中心 GPU 的详细信息。 Arctic Sound-M (ATS-M) 专为云中的媒体转码、视觉图形和推理而设计,是业界首款带有 AV1 硬件编码器的独立 GPU。 它提供的性能目标是每秒 150 万亿次操作 (TOPS)。 ATS-M 将以两种外形规格和来自合作伙伴的超过 15 种系统设计提供,包括 Dell、Supermicro、Inspur 和 H3C。 它将在今年第三季度推出。

申明:本文由第三方发布,内容仅代表作者观点,与本网站无关。对本文以及其中全部或者部分内容的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。本网发布或转载文章出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,也不代表本网对其真实性负责。

七爪网 行业资讯 英特尔为数据中心带来更强大的人工智能训练和推理 https://www.7claw.com/56465.html

相关文章

发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务