GTC November 2021 Keynote

类别: 秋季 Keynote · 年份: 2021 · ▶ 观看

讲者: Jensen Huang - CEO, NVIDIA

Switch language → English

章节 (15)

• 00:00 · 展前倒计时
  • 主题演讲开始前带有环境音乐和合作伙伴徽标的倒计时器。
• 13:58 · 开场与“I am AI”
  • Jensen Huang 介绍主题演讲，并展示展示 AI 应用的“I am AI”视频。
• 17:49 · 加速计算与 CUDA
  • 探讨 CUDA 的演进、全栈优化以及加速计算的扩展。
• 21:08 · NVIDIA ReOpt
  • 发布 ReOpt，一款用于运筹学和物流优化的加速求解器。
• 22:35 · 量子计算
  • 介绍用于加速量子电路模拟的 cuQuantum DGX Appliance。
• 24:26 · Python 数据科学
  • 发布 cuNumeric，为数据科学家加速 NumPy 工作流。
• 25:40 · 数据中心级计算
  • 推出用于云原生超级计算的 NVIDIA Quantum-2 InfiniBand 平台和 BlueField DOCA 1.2。
• 27:30 · Morpheus 网络安全
  • 介绍 Morpheus，一个用于检测异常的深度学习网络安全平台。
• 29:29 · 科学领域的百万倍飞跃
  • 探讨 physics-ML 和 AI 如何在药物发现和气候建模等科学模拟中推动大规模加速。
• 37:39 · NVIDIA Modulus
  • 发布 Modulus，一个用于为数字孪生开发 physics-ML 模型的框架。
• 39:30 · Omniverse 与数字孪生
  • 深入探讨 Omniverse 作为创建 3D 虚拟世界以及工厂和城市数字孪生的平台。
• 51:00 · AI 虚拟化身与 Project Tokkio
  • 展示使用 Riva、Maxine 和 Omniverse 的对话式 AI 虚拟化身，特别展示了“Toy Jensen”。
• 61:23 · 边缘 AI 与机器人
  • 讨论 NVIDIA Unified Computing Framework (UCF)、Metropolis 以及用于医疗仪器的 Clara Holoscan。
• 71:30 · 自动驾驶汽车
  • NVIDIA DRIVE 的最新进展，包括 Hyperion 8、DRIVE Sim Replicator 和 DRIVE Concierge。
• 81:40 · Earth-2 与结语
  • 发布 Earth-2，一个用于模拟和预测气候变化的地球数字孪生。

产品发布 (15)

• [21:08] NVIDIA ReOpt
  • 一款用于运筹学和物流优化的加速求解器。
  • specs: 大规模并行算法，动态重新路由，可扩展至数千个位置。
  • availability: 现已推出
• [23:10] cuQuantum DGX Appliance
  • 一款用于在经典超级计算机上研究量子算法的设备。
  • specs: 为 Cirq 提供开箱即用的优化堆栈，加速量子模拟器。
  • availability: Q1 2022 推出
• [24:58] NVIDIA cuNumeric
  • NumPy 工作流的直接替换加速器。
  • specs: 零代码更改，在多 GPU 和多节点系统上实现自动并行化。
  • availability: 现已在 GitHub 和 Conda 上推出
• [25:40] NVIDIA Quantum-2
  • 用于云原生超级计算的 400 Gbps InfiniBand 网络平台。
  • specs: 570 亿个晶体管，64 个 400 Gbps 端口，性能隔离，精确计时。
  • availability: 现已提供样品
• [26:08] BlueField DOCA 1.2
  • 针对 BlueField DPU 的零信任安全框架。
  • specs: 深度包检测，入侵检测，遥测，硬件身份验证。
  • availability: 未明确说明
• [27:40] NVIDIA Morpheus
  • 用于下一代 SIEM 和网络安全的加速 AI 平台。
  • specs: 数据处理速度提升 600 倍，实时使用数千万个 AI 模型检测异常。
  • availability: Early Access 2 现已推出
• [37:39] NVIDIA Modulus
  • 一个 physics-ML 神经模拟框架。
  • specs: 使用控制物理学训练 physics-ML 模型，支持多 GPU/多节点训练，实现 100,000 倍加速。
  • availability: 现已推出
• [44:20] Omniverse Showroom, Farm, AR, VR
  • Omniverse 平台内的新功能和应用。
  • specs: 用于演示的 Showroom，用于批处理的 Farm，AR/VR 流式传输。
  • availability: Beta 版现已推出 / VR 即将推出
• [62:09] NVIDIA Riva Speech AI
  • 用于构建对话式 AI 应用的 SDK。
  • specs: 世界级质量，可定制语音，支持 7 种语言，可随处部署。
  • availability: 全球企业支持将于 Q1 ‘22 推出
• [71:00] Triton Inference Server 2.15
  • 支持多种框架和平台的更新版推理服务器。
  • specs: Forest 推理（在一个应用中结合 ML 和 DL），多 GPU/多节点推理。
  • availability: 今日起可供下载
• [85:18] NVIDIA Clara Holoscan
  • 用于医疗设备的计算传感仪器平台。
  • specs: 流计算平台，可在数据中心或边缘运行，由 AGX Orin 驱动。
  • availability: November 15 推出
• [89:18] NVIDIA Isaac ROS GEMs
  • 面向 ROS 社区的硬件加速包。
  • specs: 将 ROS 原生包加速高达 10 倍，将 NVIDIA AI 引入 ROS。
  • availability: 今日即可下载 Isaac ROS GEMs
• [91:08] Isaac Sim Replicator
  • 用于训练机器人的合成数据生成引擎。
  • specs: 生成自动标记的数据，域随机化。
  • availability: 未明确说明
• [93:20] DRIVE Hyperion 8
  • 功能安全、可投入生产的自动驾驶平台。
  • specs: 双 Orin SoC，12 个摄像头，9 个雷达，12 个超声波传感器，1 个前置激光雷达。
  • availability: 现已推出
• [100:00] DRIVE Concierge
  • 基于 Omniverse Avatar 构建的车载 AI 助手。
  • specs: 始终在线的 3D 虚拟化身，自然语言交互，自动泊车。
  • availability: 未明确说明

数据 (10)

时间	指标	数值	背景
18:00	CUDA 下载量	30 Million	过去 15 年的 CUDA 总下载量。
18:00	SDK 数量	150	NVIDIA 生态系统中可用的 SDK 数量。
21:20	加速比	3 Seconds vs 5 Minutes	与传统方法相比，ReOpt 路由 1,000 个包裹的时间。
23:50	量子比特	1,688	使用 cuQuantum 在 896 个 GPU 上模拟的创纪录量子比特规模。
26:00	晶体管数量	57 Billion	Quantum-2 交换机芯片中的晶体管数量。
26:00	带宽	400 Gbps	Quantum-2 InfiniBand 平台上每个端口的吞吐量。
39:20	加速比	100,000x	与传统模拟相比，Modulus 在天气预测方面实现的加速比。
64:00	参数量	530 Billion	Megatron-Turing NLG 模型的大小。
85:40	晶体管数量	17 Billion	Orin SoC 中的晶体管数量。
85:40	性能	250 TOPS	Orin SoC 的 AI 性能。

Benchmark 主张 (3)

• [21:20] Vehicle Routing: 3 Seconds
  • vs: 5 Minutes (传统求解器)
  • gain: 路由 1,000 个包裹的速度提升 100 倍。
• [23:50] Quantum Simulation (MaxCut): 1,688 Qubits
  • vs: 之前的记录
  • gain: 有史以来最大的精确量子电路模拟。
• [39:20] Weather Prediction (FNO): 0.25 Seconds
  • vs: 传统模拟需要 4 Hours
  • gain: 7 天天气预报速度提升 100,000 倍。

客户故事 (5)

• [21:25] Domino’s
  • 使用 ReOpt 进行车辆路由和物流优化。
  • outcome: 提高了最后一英里配送的交付效率。
• [40:40] BMW Group
  • 在 Omniverse 中构建了其雷根斯堡工厂的数字孪生。
  • outcome: 优化了生产场景，提高了敏捷性，并提升了效率。
• [49:00] Ericsson
  • 在 Omniverse 中构建了城市规模的数字孪生，以模拟 5G 网络覆盖。
  • outcome: 使用物理上精确的射频模拟优化了天线布局和网络性能。
• [55:40] Siemens Energy
  • 使用 Modulus 和 Omniverse 开发了热回收蒸汽发生器 (HRSG) 的数字孪生。
  • outcome: 准确预测腐蚀，有望减少 70% 的停机时间，每年节省 17 亿美元。
• [68:20] Microsoft
  • 将 NVIDIA AI (Riva) 集成到 Microsoft Teams 中以实现实时字幕。
  • outcome: 为超过 2.5 亿用户提供 28 种语言的实时转录和翻译。

关键技术 (5)

• CUDA: 通用并行计算平台和编程模型。
• cuQuantum: 用于在 GPU 上加速量子电路模拟的 SDK。
• Physics-ML: 将机器学习与物理定律相结合，以加速科学模拟。
• Omniverse: 用于 3D 设计协作和构建物理上精确的数字孪生的平台。
• Omniverse Avatar: 用于创建交互式、AI 驱动的 3D 虚拟化身的平台。

现场演示 (5)

• [21:35] ReOpt 在 Omniverse 模拟中优化仓库机器人路由。
  • True
• [40:40] Omniverse 中的 BMW 工厂数字孪生，展示机器人规划和人体工程学。
  • True
• [41:00] Toy Jensen (Project Tokkio) 回答有关气候变化和天文学的问题。
  • True
• [63:20] Maxine 将语音翻译成多种语言并同步唇部动作。
  • True
• [76:00] DRIVE Hyperion 8 在城市街道和高速公路上自动导航。
  • True

预测 / 承诺 (2)

• [84:00, 未来 / 持续进行中] 我们将构建地球的数字孪生 Earth-2，以模拟和预测气候变化。
• [91:30, 2024] 到 2024 年，绝大多数新电动汽车将具备强大的自动驾驶能力。

公司提及 (6)

Ansys · Google · Check Point, F5, Fortinet, Juniper, Palo Alto Networks, VMware · BMW · Ericsson · Microsoft

引用 (4)

Accelerated computing starts with NVIDIA CUDA. — Jensen Huang @ 17:49

Omniverse is a foundational platform for digital twin virtual worlds. — Jensen Huang @ 39:30

The more you buy, the more you save. — Jensen Huang @ 73:15

We will build a digital twin of our Earth. — Jensen Huang @ 84:00

主题

加速计算 · CUDA · 量子计算 · 数据中心基础设施 · 网络安全 · 物理信息机器学习 · 数字孪生 · Omniverse · 对话式 AI · 机器人 · 自动驾驶汽车 · 气候科学

要点

• NVIDIA 正在将其重点从 GPU 扩展到全栈、数据中心级计算，推出了 Quantum-2 和 BlueField DPU 等产品。
• Omniverse 被定位为未来的关键平台，充当“3D 世界的 HTML”，为从制造业到电信业的各个行业构建物理上精确的数字孪生。
• Physics-ML 正在推动科学模拟的“百万倍飞跃”，在药物发现和天气预测等以前在计算上不可能的领域实现突破。
• AI 正在从感知任务演变为生成模型和复杂推理，大型语言模型 (Megatron) 和交互式虚拟化身 (Project Tokkio) 就证明了这一点。
• 在 Isaac、DRIVE Hyperion 等端到端平台以及通过 Omniverse Replicator 生成的合成数据的支持下，机器人和自动驾驶汽车正在从研发向部署过渡。
• NVIDIA 致力于应对巨大的全球挑战，最终宣布推出 Earth-2，这是一个旨在模拟和缓解气候变化的地球数字孪生。