适用于边缘计算的 NVIDIA EGX 平台

企业现在正在边缘运营,无论是工厂车间、商店、城市街道还是紧急护理设施都不乏企业的运营足迹。在边缘,数据从数十亿个 IoT 传感器传入边缘服务器进行处理,从而在需要时推动实时决策。如今,NVIDIA EGX 平台可将加速人工智能 (AI) 的强大功能引入边缘服务器,这使得智能零售智能医疗保健智能制造智能运输智慧城市 等一切任务皆有可能实现。

湖南快乐十分

将实时 AI 引入边缘服务器

NVIDIA EGX 平台可凭借易于部署的云原生软件堆栈、一系列经过验证的服务器和设备,以及在其产品和服务中提供 EGX 的广泛合作伙伴生态系统,将加速 AI 计算的强大功能引入边缘服务器。

运行 AI 容器

NGC 注册表包含广泛的适用于 EGX 的 GPU 加速软件,包括要在 Kubernetes 上的部署的 Helm Chart。NGC 容器涵盖卓越的 AI 和数据科学软件,这些软件已由 NVIDIA 进行调整、测试和优化。该注册表还可让用户访问特定于第三方域的、预先训练的模型以及支持 Kubernetes 的 Helm Chart,以便轻松部署功能强大的软件或构建自定义解决方案。

云原生,边缘优先

NVIDIA EGX 是一款云原生、边缘优先且可扩展的平台,可让 IT 快速轻松地调配 GPU 服务器。EGX 的一个主要组件是 NVIDIA GPU Operator,它能够对所有必要组件的部署进行标准化和自动化,以调配支持 GPU 的 Kubernetes 集群。

支持 EGX 的服务器

EGX 硬件产品系列首先包含小型 NVIDIA? Jetson Nano?,它可以为图像识别等任务提供每秒 0.5 万亿次运算 (TOPS) 的处理速度,而功耗只有几瓦。该平台可以一直扩展为一套完整的 NVIDIA T4 服务器,可提供超过 10,000 TOPS 的处理速度,为数百名用户提供实时语音识别和其他复杂的 AI 体验。

从边缘到数据中心的 AI 可扩展性

从边缘到数据中心的 AI 可扩展性

NVIDIA EGX 平台包括一系列可扩展的 NGC-Ready for Edge 验证服务器:从智慧城市中用于处理交通摄像头的 Jetson Nano,到在零售商店里屋中安装了 NVIDIA GPU 的单个边缘服务器,再到构成一个电信运营微数据中心的全套服务器,不一而足。无论是哪种外形尺寸,NVIDIA EGX 堆栈都全面兼容,让企业能够快速高效地将边缘操作从摄像头和设备扩展到远程大规模数据中心。

借助 AI 和 5G,加速物联网 (IoT) 革命

借助 AI 和 5G,加速物联网 (IoT) 革命

5G 即将迎来无线通信的新时代,将使延迟降低 10 倍,宽带速度提升 1000 倍。它还引入了网络切片的概念,网络切片允许电信公司为客户动态提供独特的服务。随着电信公司向 5G 过渡,他们将寻求在电信边缘运行一系列软件定义的应用程序(从 AI 和增强现实到虚拟现实和游戏)。有了 NVIDIA EGX 和新型 NVIDIA Aerial SDK,GPU 加速的和软件定义的虚拟无线接入网 (vRAN) 的到来将比您想象得要快。

NVIDIA EGX Stack

简化 IT 流程,助力边缘部署

使用 NVIDIA EGX 堆栈,在远程系统上安装软件时遇到的传统 IT 问题可迎刃而解。通过使用 Helm Chart、容器、持续集成和持续交付 (CI/CD),组织现在可以在几分钟内轻松部署更新的 AI 容器。

基于 Kubernetes 的 NVIDIA GPU Operator 解决了在 GPU 和 CPU 节点之间需要独特操作系统 (OS) 映像的问题。GPU Operator 将您需要的所有内容(驱动程序、容器运行时、设备插件以及对通过 Helm Chart 进行的部署的监控功能)捆绑在一起,以为 Tesla GPU 提供支持。现在,单个黄金主映像既包括 CPU 节点,也包括 GPU 节点。

Hybrid Cloud Management

与 Kubernetes 管理平台兼容

部署、扩展和管理生产级、企业级 Kubernetes 集群的能力至关重要。 领先的混合云平台合作伙伴 Canonical、Cisco Container Platform (CCP)、Nutanix、Microsoft Azure、Red Hat 和 VMware 都支持 EGX 堆栈架构。他们支持 GPU Operator,也就能确保这些集群是针对 GPU 工作负载配置的,而且这些集群能按更佳的统一方式运行。

跨越各个领域的边缘计算

NVIDIA EGX 平台为行业领先的边缘 AI 应用程序和框架提供一个统一的基础。

零售行业

零售行业

制造

制造

电信行业

电信行业

智慧城市

智慧城市

我们已在 Seagate 的制造工厂中部署了基于 GPU 的智能边缘视觉解决方案,用于检查硬盘读写磁头的质量。NVIDIA EGX 平台可显著加快边缘设备的推理速度,让我们可以看到人类操作员过去无法看到的细微缺陷。我们有望将制造生产量提高高达 10%,并且通过提高效率和质量,实现高达 300% 的投资回报率 (ROI)。

— Seagate Technology 高级首席数据科学家 Bruce King

AI 是实现精准医疗的根本,必须能从云端到边缘设备普遍可用,甚至可在医疗设备上直接使用。借助 NVIDIA EGX,GE Healthcare 能够将 NVIDIA T4 GPU 直接嵌入我们的医疗设备,从而加快 [磁共振 (MR)] 数据的采集速度,提高影像质量,并减少可变性,所有这些都是为了推动实现我们提升患者治疗效果的目标。实时重症监护用例需要边缘 AI。因此,我们创建了 Edison 智能产品,与 NVIDIA 合作将 AI 引入我们的医疗设备和 Edison 边缘设备,并与 ACR AI-LAB 合作以实现 AI 大众化。

—GE Healthcare MR 应用程序总经理 Jason Polzin 博士

Red Hat 致力于为从混合云到边缘的任何工作负载、封装和位置提供一致的体验。通过结合使用 Red Hat OpenShift 和支持 NVIDIA EGX 的平台,客户可以通过一致、高性能、以容器为中心的环境更好地优化其分布式操作。

— Red Hat 首席技术官 Chris Wright

Avitas 正致力于通过创新性数字检测和预测平台来彻底革新资产完整性管理。我们采用独特的方法,将先进的分析与自主检测技术相结合,帮助我们的客户提供更安全、更清洁、更高效的能源解决方案。NVIDIA 是我们的重要合作伙伴,他们利用 EGX 平台帮助拓展我们的优势能力。

— Avitas Systems(一家 Baker Hughes 合资公司)首席执行官 Jason Roe

Mellanox SmartNIC 和交换机为数据访问提供了理想的 [输入/输出 (I/O )] 连接,可实现边缘乃至超大规模数据中心的数据访问。高性能、低延迟和加速网络的组合实现了一种全新的基础设施计算层,这对于 NVIDIA EGX 等边缘平台上的新一代更先进的 AI 解决方案所需的高效数据访问和供给至关重要。

— Mellanox Technologies 首席技术官 Michael Kagan

适用于 EGX 的企业级软件堆栈

适用于 EGX 的企业级软件堆栈

NVIDIA EGX 是经过优化的软件堆栈,其中包含 NVIDIA 驱动程序、Kubernetes 插件和容器运行时,并充当部署和管理容器化 AI 框架与应用程序(包括 NVIDIA TensorRT?、TensorRT 推理服务器和 DeepStream)的基础。NVIDIA EGX 堆栈已针对 NGC-Ready for Edge 服务器进行优化,并且您可以在 NVIDIA NGC 注册表 中获取用于安装的 Helm Chart。

EGX 合作伙伴

  • 边缘服务器制造商
  • 混合云平台合作伙伴
Acer
Advantech
ASRock Rack
Asus
Atos
Cisco
Dell EMC
Fujitsu
Gigabyte
Hewlett Packard Enterprise
Inspur
Ineventec
Lenovo
Mitac
Quanta Cloud Technology
Supermicro
Tyan
wiwynn
Canonical
Cisco
Microsoft Azure
Nutanix
Red Hat
VMware

NVIDIA EGX 详解

注册以详细了解 NVIDIA EGX 边缘计算平台。