Intel推出全新处理器、记忆体、储存装置、FPGA打造AI运算解决方案 Intel针对AI应用领域推出了支援Bfloat16资料格式的第3代Xeon可扩充处理器,以及单条模组就能提供4.5TB容量的Optane Persistent Memory 200系列记忆体,与搭载PCIe 4.0控制器的SSD D7-P5500和P5600等固态硬碟,提供企业用户强效的AI运算解决方案。

👉 欢迎加入T客邦telegram  ( https://t.me/TechbangNEWS )

支援Bfloat16强化AI效能

为了提升资料中心、网路、智慧边缘运算环境中,AI和分析工作负载的开发与执行的效率,Intel将Bfloat16资料(Brain Floating Point)格式纳入第3代Xeon可扩充处理器(Scalable Processors)支援,成为业界首款内建支援bfloat16的主流伺服器处理器,让通用型处理器也能更全面支援AI训练与推论,以满足图像分类、推荐引擎、语音辨识和语言建模等应用的需求。

Bfloat16的优先在于在多数神经网路运中,能在使用一半位元的情况下提供与FP32(单精度浮点数)一样的准确度,代表著可以减少一半记忆体用量、倍增资料吞吐量,而且Intel也将Bfloat16整合至处理器的Intel DL Boost功能中,并支援TensorFlow、Pytorch等深度学习架构,以及对OpenVINO工具组和ONNX执行环境最佳化,只需微幅调整软体,即可达到相同的模型精准度,并可加速处理器的AI训练和推论效能。

Intel第3代Xeon可扩充处理器支援Bfloat16资料格式,可以强化AI训练与推论效能。

Bfloat16与FP16(半精度浮点数)的资料长度相同,但可带来与FP32接近的神经网路运算准确度。(图片来源:维基百科)

Bfloat16的效能比FP32更好,而准确度则比INT8(整数运算)出色。

根据官方资料Bfloat16可以提升1.93倍AI训练与1.9倍AI推论效能。

读者可以透过这个小游戏了解Bfloat16的特性与优势。

单槽4.5TB的海量记忆体

除了处理器之外,Intel也为第3代Xeon可扩充平台推出了搭配的Optane Persistent Memory 200系列记忆体,它有著介于DRAM与固态硬碟之间的特性,以及高容量密度、资料不会因断电而消失等特色,可在单一插槽提供高达4.5TB的容量,以满足记忆体内建资料库、高密度虚拟化、分析和高效能运算等应用需求。

在储存媒体部分,Intel出了SSD D7-P5500和P5600等2款固态硬碟,采用TLC 3D NAND技术与全新的低延迟PCIe 4.0控制器,以满足AI和分析工作负载的高度I/O需求,提高IT效率和资料安全性的进阶功能。

此外Intel也发表了首款AI最佳化的Stratix10 NX FPGA,它针对高频宽、低延迟AI加速进行最佳化,并整合的高频宽记忆体(HBM)、高效能网路、张量处理模组(Tensor Block),以及AI最佳化算法模组(Arithmetic Block,其中包含通常用于AI模型算法的低精度乘法器的密集阵列),为使用者提供客制化、可重新设定和可扩充的AI加速功能,适用于自然语言处理和诈欺检测之类的运算需求。

在这同时Intel也延续OneAPI跨架构开发环境,以简化开发横跨处理器、绘图处理器(GPU)、FPGA不同架构运算元件的程式开发,并确保程式码能于现在与未来的英特尔硬体环境中继续使用。

Optane Persistent Memory 200系列记忆体换上蓝色散热片,外型更亮眼。

Optane Persistent Memory的特性介于DRAM与固态硬碟之间,可以做为2者之间的使用层级。

Optane Persistent Memory 200系列记忆体有著4.5TB的超大容量,并比NAND固态硬碟快225倍。

SSD D7-P5500和P5600固态硬碟采用PCIe 4.0控制器,能提供更出色的存取效能。

SSD D7-P5500和P5600的最高存取速度可以达到7,000MB/s。

OneAPI开发环境能够大幅简化跨架构AI程式的开发流程。

Intel副总裁暨Xeon和记忆体事业部总经理Lisa Spelman表示:「快速部署AI和资料分析的能力对于现今的企业极为重要。英特尔将继续致力于提升处理器内建的AI加速和软体最佳化功能,并为全球资料中心和边缘解决方案提供支援,同时也提供无与伦比的晶片基础,以从资料当中获得更多宝贵的洞察资讯。」

👉 欢迎加入T客邦telegram  ( https://t.me/TechbangNEWS )

相关文章