Xilinx 和 Numenta 声称神经网络与 Nvidia GPU 相比具有显着的加速

2023-06-13 0 959

Xilinx 和 Numenta 声称神经网络与 Nvidia GPU 相比具有显着的加速

Xilinx 首席执行官 Victor Peng 在周五通过 Zoom 接受 ZDNet 采访时告诉 ZDNet,Numenta 是由 Palm Pilot 创始人 Jeff Hawkins 创立的硅谷人工智能公司,已经能够使用 Xilinx 可编程逻辑设备在传统神经网络中实现显着加速。

Xilinx 在基准测试中声称,这种加速比行业重量级 Nvidia 的芯片有几个数量级的改进。

“我们实现了改进的因素,我们击败了 GPU,”Peng 在讨论公司与 Numenta 进行的基准测试时说。 成功的衡量标准是经过训练的神经网络能够执行的吞吐量。

Xilinx 正在以 340 亿美元的价格被 Advanced Micro Devices 收购,这是去年 10 月宣布的一项交易。 该交易已获得两家公司股东的批准,正在欧盟审批过程中,预计将于今年年底完成。

在交易进行期间,Xilinx 提供时间与 Peng 一起了解 Xilinx 的进展情况。

Xilinx 和 Numenta 进行的基准性能测试是在机器学习算法的两个常见基准测试中完成的。

第一个是 Google Speech Commands,这是 Google 于 2017 年推出的用于测试语音识别的数据集。 第二种是 ResNet-50,一种用于流行的 ImageNet 数据集的图像识别算法。

Peng 表示,与 Nvidia V100 GPU 相比,Xilinx Alveo FPGA 在谷歌语音测试中每秒正确识别单词的吞吐量提高了 100 倍。 早在 11 月,Numenta 就披露了这些数据。

之前任何一方都没有透露 ResNet-50 上的 ImageNet 测试。 在这种情况下,Xilinx 部件(称为 Versal)与 Nvidia T4 部件相比,每秒识别图像的吞吐量提高了三倍。

性能的一部分来自 Xilinx 所谓的“AI 引擎”或 AIE,它是一组可重新配置的电路,能够加速神经网络的基本操作,表示输入数据和权重的向量和矩阵的乘法 值,分别。

同样重要的是,在这两项测试中,Xilinx 芯片的 AI 能力都得到了 Numenta 研究和工程主管 Subutai Ahmad 领导的 Numenta 科学家的帮助。

Numenta 正在对大脑进行研究,特别是大脑中最年轻的部分,即新皮质,它在哺乳动物中执行更高层次的认知功能,包括视觉感知。 创始人霍金斯 (Hawkins) 撰写了有关新皮质功能的复杂方式的文章,这种方式与传统的 AI 深度学习形式截然不同。

尽管存在这种差异,Numenta 在 Ahmad 的指导下同时尝试将新皮质的知识转化为可用的算法以加速深度学习。

Numenta 的想法是从矩阵乘法中消除一些零值数字,这种方法越来越普遍,称为稀疏性。 消除计算零值的需要减少了芯片的整体计算负担。

正如艾哈迈德在 12 月向 ZDNet 解释的那样,“我们对硬件所做的事情是利用稀疏性来提高计算效率。”

“在神经网络中,所有事情都发生在这些矩阵乘积上,如果你将两个数字相乘,如果其中一个数字为零,你可以跳过乘法,因为结果将为零,所以你可以跳过大部分乘法。 “

艾哈迈德说,赛灵思芯片中稀疏性的实现意味着“我们可以设计为稀疏网络定制的电路。”

定制芯片上的稀疏网络不仅速度更快,而且空间紧凑,艾哈迈德说,“因此我们可以在芯片上运行更多网络。”

“我们可以在芯片上运行 20 个这样的网络,而不是四个密集网络,所以当你将它们全部相乘时,整个芯片的速度是密集网络的 50 倍。”

有关合作的更多详细信息,请参阅 Numenta 的正式公告。

Peng 提供的数字是对 Nvidia 通常散布的数字的一种回应,Nvidia 往往主导神经网络性能的衡量标准。

这些性能指标,其中每秒数万亿次操作,或 TOPS,被一些人批评为不代表现实世界的任务,只是为了提高 Nvidia 的结果。

“人们总是谈论 TOPS、TOPS、TOPS,”彭说。 “TOPS 只谈论数据路径的峰值性能。”

“应用程序性能真正取决于的不仅是数据路径,还有内存,以及内存如何移动。”

能够自定义诸如内存吞吐量机制之类的东西,使 Xilinx 芯片能够“获得更好的真实、持续的性能,即使我们没有赢得理论峰值 TOPS 数。”

“我们在人工智能方面做得非常好,”彭说。

Xilinx 的赌注是 Versal 等产品将赢得交易,因为它们所做的不仅仅是人工智能。 尽管 AIE 是一个关键要素,但 Xilinx 芯片可以很好地加速其他任务,而不仅仅是线性代数,该公司称之为“整体应用程序加速”。

“即使在特定情况下我们不是 AI 的全面赢家,尽管在某些情况下我们是,我们实际上仍然可以在整个应用程序中提供更好的用户体验,”他说,“我认为这就是 事项。

申明:本文由第三方发布,内容仅代表作者观点,与本网站无关。对本文以及其中全部或者部分内容的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。本网发布或转载文章出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,也不代表本网对其真实性负责。

七爪网 行业资讯 Xilinx 和 Numenta 声称神经网络与 Nvidia GPU 相比具有显着的加速 https://www.7claw.com/57642.html

相关文章

发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务