英伟达，在下一盘很大的棋

本文来自微信公众号：半导体行业观察（ID：icbank），作者：李寿鹏，头图来自：视觉中国

成立于1993年的英伟达，最为人熟知的就是他们的GPU。尤其是进入最近几年，因为AI的火热，英伟达GPU的关注度暴增，行业对他们在这个领域的认可程度也达到了前所未有的高度。但其实GPU只是英伟达的根本。历经过去几年的收购和产品线拓展外，英伟达已经开拓了多条产品线，DPU就是其中的一条。

DPU：为数据移动而生

在数据中心领域，CPU和GPU是当之无愧的“处理器巨头”，他们凭借各自的优势在数据中心中建立了无可撼动的地位。但在Nvidia CEO黄仁勋看来，DPU已经成为以数据为中心的加速计算模型的第三位成员。其中CPU用于通用计算，GPU用于加速计算，而DPU在数据中心周围移动数据，进行数据处理。

这里所说的DPU，就是Data Processing Unit的缩写，也就是所谓的数据处理单元，这是英伟达耗资69亿美元收购的以色列芯片厂商Mellanox所带来的拳头产品之一。

据英伟达方面介绍，DPU是一款具备了高性能，软件可编程和多核CPU等特性的新型可编程处理器。在这个SoC中，拥有高性能网络接口，能够以有线传输的速率解析、处理数据，并将其快速传输到GPU和CPU。

英伟达方面表示，DPU丰富的、灵活和可编程的加速引擎可改善AI和机器学习应用的性能。所有的这些DPU功能对于实现隔离的裸机云原生计算至关重要，它也将定义下一代云规模计算。他们进一步指出，DPU可以用作独立的嵌入式处理器，但通常会集成到SmartNIC中，为未来的服务器提供支持。

从英伟达方面的介绍我们得知，DPU可以执行原本需要CPU处理的网络、存储和安全等任务。这就意味着如果在数据中心中采用了DPU，那么CPU的不少运算能力可以被释放出来，去执行广泛的企业应用。

在近日举办的GTC大会上，英伟达带来了其全新的DPU 产品BlueField-2、BlueField-2X，以及全新的DOCA SDK。

首先看BlueField-2 DPU，如下图所示，在DPU中，拥有8个64bit的Arm Cortex A72内核，同时还拥有2VLIM加速引擎和Mellanox的ConnertX-6 Dx NIC，同时还集成了行业领先的50Gb/s PAM4 SerDes和PCIe Gen 4.0接口，这就让其能提供速度为25Gb/s、50Gb/s或100Gb/s的两个端口，或者一个速度高达200Gb/s的以太网和InfiniBand连接。

得益于这些配置，BlueField-2 DPU能够加速数据中心中包括隔离、信任根、密钥管理、RDMA/RoCE、GPUDirect、弹性块存储和数据压缩等在内的安全、网络和存储任务。

除了BlueField-2 DPU之外，英伟达还发布了BlueField-2X DPU，这款产品除了拥有BlueField-2 DPU的所有特性以外，还集成了一个NVIDIA Ampere GPU，这就让其可以运用AI来执行数据中心的安全、网络和存储等任务。

英伟达方面表示，因为Ampere GPU采用了NVIDIA的第三代Tensor Core，所以它能够使用AI进行包括识别异常流量以预防机密数据被盗，线速加密流量分析，主机自检识别恶意活动，动态安全流程和自动响应在内的实时安全分析。

在介绍了这两款DPU之后，英伟达还带来了DPU的全新路线图。如下图所示，英伟达未来两代的DPU将在2022和2023年面世，它们所带来的性能提升是非常明显的。

为了方便DPU的开发，英伟达同时还带来了一款名为DOCA（Data-Center-Infrastructure-on-a-ChipArchitecture）的SDK。据了解，DOCA为开发人员提供了一个全面的开放平台，协助他们在BlueField系列DPU上打造软件定义的，硬件加速的网络、存储、安全和管理等应用。而DOCA也已经完全集成到NVIDIA NGC中，该软件目录为第三方应用程序开发商提供了便捷和容器化的软件开发环境，那就意味着他们可以利用DPU在数据中心中的加速服务，并开发，认证和分发应用程序给其客户。

JETSON：迎接AIoT革命

在英伟达面向未来的产品布局中，AIoT也是一个他们不会错过的重点方向。正如该公司边缘计算VP和GM Deepu Talla所说，这是一个涉及万亿连接的市场，他们没理由错过。

如上图所示，这是一个始于2014年的产品线，在当年三月，他们发布了Jeston系列的第一款产品Jeston TK1。这是一款基于全球首款针对嵌入式系统的移动超级计算机，其面向的应用包括计算机视觉、图像处理以及实时数据处理等领域。

按照英伟达的介绍，Jetson是他们面向新一代自主机器推出的嵌入式系统，是一系列适用于一切自主机器（Autonomous Machines）的AI平台。其系统所提供的性能和能效可提高自主机器软件的运行速度，而且功耗更低。英伟达方面的资料显示，Jetson系列的每个系统都是一个完备的模块化系统 （SOM），具备 CPU、GPU、PMIC、DRAM 和闪存，并且具备可扩展性。对于开发者和用户来说，只需选择适合应用场景功能需求的SOM，即能够以此为基础构建系统。

自2014年以来，英伟达已经面向不同应用场景推出了TK1、TX1、TX2、AGX Xavier、Nano和XavierNX六款产品。而现在，他们则带来了售价仅为59美元的JetsonNano 2GB。在英伟达看来，这是一款非常适用于学生、教育和机器人爱好者的AI和机器人入门套件。

英伟达官方也表示，Jetson Nan 2GB开放套件设计的初衷是希望将AI的教与学融为一体，兴趣认识可以借助其开发机器人技术和智能物联网等领域的项目。为了支持这项工作，英伟达还将提供免费的在线培训和AI认证计划，这将支持成千上万的开发人员在充满活力的Jetson社区中提供更多的开源项目、开发方法和视频。

英伟达方面进一步指出，NVIDIA JetPack™ SDK为新款的Jetson Nan 2GB提供支持，这就让开发者可以基于此针对需求做多样化的开发。

开发者平台：英伟达的武器

为了让开发者将其硬件带到各种领域，英伟达在软件上做了很多的投入，CUDA就是其最成功的代表。正如很多行内人士所示，英伟达之所以能够在AI时代大展所长，他们在CUDA上持之以恒的投入功不可没，这也是他们为DPU投入DOCA开发的原因。

而为了更便利开发者，英伟达带来了更多的开发平台。如为了更好地将AI带到边缘应用，英伟达在2019年推出了EGX AI 平台。该平台可以实时感知、理解和处理数据，而无需先将数据发送到云端或数据中心。

作为一款高性能和可扩展的平台，EGX 能从小型的 NVIDIA Jetson Nano扩展到所有安装了NVIDIA GPU的服务器群，提供从0.5TOPS到 10,000 TOPS的支持，可以为数百名用户提供实时语音识别和其他复杂的 AI 体验。而据他们介绍，包括戴尔、浪潮、联想和Supermicro在内的服务器供应商也提供了对NVIDIA EGX AI平台的支持。这就让制造、健康、零售、物流、农业、电信、公共安全和广播媒体等大型行业从EGX AI平台受益，也能加速他们的AI部署。

英伟达方面表示，公司的EGX平台正在扩展，以结合NVIDIA Ampere GPU和单个PCIe卡上的BlueField-2DPU功能，为企业提供了通用的平台去构建安全的加速数据中心。

在GTC2020上，英伟达还带来了全新的NVIDIA Maxine——一款云原生的流视频AI平台。

据介绍，基于这个平台，服务提供商预计可以为每天举行的超过3000万次网络会议带来新的AI功能，当中包括凝视校正，超分辨率和降噪等。由于数据是在云中而不是在本地设备上处理的，因此终端用户无需任何专用的硬件，就可以享受新的功能。

“Maxine平台将大大减少视频通话所需的带宽。和传统流视频传输整个屏幕的像素不一样，AI软件会分析通话中每个人的关键面部点，然后智能地调整另一侧视频中的脸部。这样就可以以更小流量的方式在网络上传输流视频”，英伟达方面强调。

Maxine平台同时集成了多个NVIDIAAI SDK和API技术。除了NVIDIAJarine，Maxine平台还利用了NVIDIA DeepStream高通量音频和视频流SDK和NVIDIA TensorRTTM SDK，以实现高性能的深度学习推理。Maxine中使用的NVIDIA SDK中提供的AI音频、视频和自然语言功能

是在NVIDIA DGX系统上经过数十万次训练而开发的，这进一步体现了其领先性。

除此之外，英伟达还带来了Omniverse平台。

据介绍，Omniverse是世界上第一个基于NVIDIA RTX的3D模拟和协作平台，汇集了英伟达在图形、仿真和AI方面的突破，融合了物理和虚拟世界，能够实时模拟真实感并具有真实感细节。

使用该平台，远程团队可以同时在项目上进行协作，例如架构师反复进行3D架构设计，动画师修改3D场景，以及工程师合作进行自动驾驶汽车开发，就像他们在网上共同编辑文档一样容易。

据透露，Omniverse得到了包括Adobe，Autodesk，Bentley Systems，Robert McNeel＆Associates和SideFX在内的许多主要软件领导者的支持。NVIDIA还计划携手其他领先的软件提供者，以便所有艺术家和设计师都能在Omniverse上选择自己所需的应用程序。

得益于其GPU方面的领先实力，英伟达已经在AI市场坐稳了龙头芯片供应商的位置。再加上公司在如上文谈到的软硬件的投入。相信未来无论在数据中心领域，还是AIoT市场，英伟达必然会有一席之地。

本文来自微信公众号：半导体行业观察（ID：icbank），作者：李寿鹏