您好、欢迎来到现金彩票网!
当前位置:双彩网 > 向量指令 >

借助英特尔® 高级向量扩展指令集 512 加快深度学习速度

发布时间:2019-06-30 09:45 来源:未知 编辑:admin

  了解英特尔® 高级向量扩展指令集 512 如何在英特尔® 至强® 可扩展处理器中加快深度学习的速度。

  大家好,我是 Alberto Villarreal。在这个短视频中,我将向您介绍英特尔® 至强® 可扩展处理器的一个全新特性,该特性专为加速深度学习用例而设计。深度学习在图像分类、语音识别、语言翻译、对象检测和其他应用中取得了卓越的成果,受到业界的广泛关注。第二代英特尔® 至强® 可扩展处理器提升了从云到边缘设备的深度学习应用性能,同时还能够使用相同的硬件运行许多其他类型的工作负载。

  这是因为处理器添加了一些新特性,如英特尔® 高级向量扩展指令集 512(英特尔® AVX-512),该指令集用于加速计算要求较高的任务的性能。英特尔® AVX-512 现在包含英特尔® AVX-512 Deep Learning Boost,后者提供了能够加速深度学习推理工作负载(如图像分类、对象检测等)的全新指令集。我们来看一下这项新技术的工作原理。

  研究表明,可以使用低数值精度执行深度学习训练和推理,如使用 16 位乘法器进行训练,使用 8 位及以下的乘法器进行推理,对准确性的影响极小,甚至为零。前一代英特尔® 至强® 可扩展处理器支持使用英特尔® AVX 512 指令集实现较低的推理精度。这些指令支持低精度乘法和高精度累加。如图所示,两个 8 位值相乘再加上 32 位结果需要 3 个指令,累加格式为 Int32。

  新一代英特尔® 至强® 可扩展处理器现在包括英特尔® AVX-512 Deep Learning Boost,它支持使用一个指令执行 8 位乘法和 32 位累加。前一代处理器使用的 3 个指令现在已经合并成一个新指令。这显著提升了性能,并降低了内存要求。

  我们可以通过多种方式使用这个新功能。首先,我将向您展示如何通过面向深度神经网络的英特尔® 数学核心函数库(英特尔® MKL-DNN)来利用英特尔® AVX-512 Deep Learning Boost。英特尔® MKL-DNN 是一个面向深度学习应用的开源性能库,旨在加速英特尔® 架构上的深度学习框架。它包括用于实施深度神经网络的矢量化和线程化构建模块。

  它是一个利用深度学习基元的好方法,这些基元经过优化,可以在英特尔® 处理器上运行。您可以轻松使用任意深度学习框架或库。此处列举了多个框架和库,今后还会推出更多。它们使用英特尔® MKL-DNN,以便受益于英特尔® Deep Learning Boost 实现的性能提升。

  您也可以通过 C 或 C++ API 将您的应用连接到英特尔® MKL-DNN。这样,您可以利用已经针对英特尔® Deep Learning Boost 而优化的深度学习基元和性能关键函数。这支持您开发自己的优化型软件产品或优化现有的产品。

  例如,假设我们想使用英特尔® MKL-DNN 中的 C++ API 来实施一个使用低精度基元的卷积,该卷积包含来自 AlexNet 拓扑的修正线性单元。该示意图显示了该示例的操作和数据流程。请注意,我们开始执行量化步骤,以获得卷积层数据、权重和偏差的低精度表示。然后使用更低的精度执行卷积运算。最后,将计算的输出从 8 位整数反量化为原始浮点格式。

  该示例的源代码详见英特尔® MKL-DNN 库。您也可以访问库中的主页面并点击 SimpleNet 示例,找到有关 8 位整数计算的说明,包括量化流程,该流程将特定输入转换为低精度格式。在本页面,您将找到一个源代码说明,它展示了在本示例中实施卷积运算的不同步骤。您可以将代码示例用作创建网络的基础,并充分利用全新英特尔® AVX-512 Deep Learning Boost 功能。

  您可以访问链接部分列出的 GitHub 库,下载本示例的完整源代码以及英特尔® MKL-DNN 的其他示例、教程和安装说明。我刚刚展示的示例代码说明了如何使用全新英特尔® AVX-512 Deep Learning Boost 特性来加速您的应用。当然,您也可以使用已经针对英特尔® AVX-512 Deep Learning Boost 优化的框架和库来利用这些新特性。

  我希望这些信息对您有所帮助。请记得访问提供的链接以获取资源,并使用资源来加快您的人工智能应用的运行速度。感谢大家收看。

http://bluecaleel.com/xiangliangzhiling/209.html
锟斤拷锟斤拷锟斤拷QQ微锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷微锟斤拷
关于我们|联系我们|版权声明|网站地图|
Copyright © 2002-2019 现金彩票 版权所有