NVIDIA IGX Thor边缘AI计算平台技术解析

什么是NVIDIA IGX Thor？

　　NVIDIA IGX Thor 是一个面向物理AI的企业就绪平台。它提供服务器级AI性能，同时具备工业级硬件、高级功能安全能力、扩展生命周期支持以及适用于工业和医疗环境配置的企业软件栈。IGX Thor 将这些计算和安全基础扩展到边缘系统，其中正常运行时间、可靠性和标准合规性是系统设计的核心。

　　借助IGX Thor平台，开发者可以构建关键任务的边缘计算机，这些计算机能在恶劣物理条件下可靠运行，集成到安全且受监管的基础设施中，并在数据生成点附近执行最先进的AI推理和传感器融合流水线。

　　IGX Thor系列通过四个专门构建的平台交付，专为工业级部署和高级开发工作流设计：

• NVIDIA IGX T5000 系统级模块 (SoM)：以紧凑的嵌入式外形提供高性能、具备安全能力的计算。IGX T5000 SoM专为集成到定制载板而设计，使客户能够构建特定领域的工业和机器人系统，同时加速产品上市。
• NVIDIA IGX T7000 板卡套件：为要求最苛刻的边缘AI工作负载提供可扩展的性能和可扩展性。IGX T7000采用MicroATX外形，结合了NVIDIA Thor级计算、丰富的I/O、功能安全支持、通过独立GPU增加AI计算能力的灵活性以及企业级网络，为安全关键、高吞吐量的边缘系统提供动力。
• NVIDIA IGX Thor 开发者套件：提供一个全功能的开发平台，用于构建、测试和验证下一代工业AI应用。支持高级传感、机器人和实时AI流水线，使开发者能够自信地从原型过渡到部署。
• NVIDIA IGX Thor 开发者套件 Mini：将NVIDIA Thor级能力与板载安全模块集成到更小的尺寸中。针对空间和功耗受限环境进行了优化，是移动机器人、自主机器和需要强大AI性能而不牺牲外形尺寸的紧凑型工业系统的理想选择。

在边缘提供海量AI性能

　　NVIDIA IGX Thor 实现了阶梯式的性能提升。与NVIDIA IGX Orin相比，其集成GPU的AI计算能力提高了8倍，通过独立GPU加速的AI计算能力提高了2.5倍，网络带宽提高了2倍。这为工业和机器人应用实现了要求更高的实时AI工作负载。

　　IGX T7000 将搭载NVIDIA Blackwell架构iGPU（提供2,070 FP4 TOPS AI性能）的IGX T5000 Thor模块与NVIDIA RTX PRO 6000 Blackwell Max-Q独立GPU（额外增加3,511 FP4 TOPS）配对。两者结合，显著提升了要求严苛的边缘工作负载的总AI计算能力。

　　与IGX Orin 700相比，IGX T7000的生成式AI推理性能提高了5倍。通过同时使用iGPU和dGPU，它可处理多达20倍的交互用户，使其成为高并发边缘工作负载的绝佳选择。它还提供了强大的混合关键性隔离，因此dGPU上运行的工作负载可以独立运行，而不会降低iGPU的性能。

　　这些特性使IGX T7000成为智能零售（处理来自多个结账亭的视频，同时运行VLM和LLM工作负载以实现低延迟的智能结账）、工业安全和楼宇自动化等众多场景的理想选择。

　　与NVIDIA Jetson T5000类似，NVIDIA IGX T5000 SoM提供2,070 TOPS的FP4性能，搭配128 GB LPDDR5X内存和273 GB/s的内存带宽，非常适合运行需要实时响应的生成式AI工作负载。即使在启用全DRAM ECC等工业特性时，IGX T5000也能提供与Jetson T5000相同的性能。这些工业能力不会降低IGX T5000的性能或可用内存容量。

面向实时工作负载的高速连接

　　IGX T7000板卡套件通过双200 GbE网络显著提升了边缘连接能力，与IGX Orin的双100 GbE接口相比，带宽提高了2倍。在NVIDIA ConnectX-7 SmartNIC的支持下，这种高速结构利用RDMA实现了低延迟、高吞吐量的数据移动，使传感器数据能够绕过CPU直接流入GPU内存。这极大地提升了端到端的AI性能，特别是对于实时、传感器密集型的工作负载。

　　这种网络能力的飞跃释放了NVIDIA Holoscan Sensor Bridge (HSB)的全部潜力。HSB旨在聚合和流式传输来自高带宽传感器（如摄像头、激光雷达、雷达和医学成像设备）的海量数据，它依赖于确定性的、无损的网络来满足严格的延迟和同步要求。

　　凭借2×200 GbE和RDMA加速，IGX Thor提供了扩展多传感器流水线所需的带宽和确定性，从而在安全关键和实时系统中实现更快的数据摄取、更紧密的传感器融合和更高保真度的AI推理。

面向边缘应用的实时确定性

　　许多工业和机器人应用要求严格的实时行为，IGX Thor正是为满足这些需求而专门设计的。

• 实时Linux环境：IGX默认附带可抢占的实时Linux内核。这为机器人手臂、自主机器和闭环医疗系统中的紧密控制回路和低延迟传感器处理提供了所需的确定性行为。
• 多实例GPU (MIG)：NVIDIA Blackwell GPU可以分区为完全隔离的实例，因此即使与较低优先级的任务一起运行，安全关键的实时工作负载也能获得硬性性能保证。
• 可编程加速器：用于视觉(PVA)、光流、硬件编解码器和实时推理的专用引擎，可减少延迟并减轻CPU和GPU的工作负载，为大规模深度学习和复杂的生成式AI流水线留出更多空间。
• GPU Direct RDMA：借助GPU Direct RDMA，传感器输入可以直接传入GPU内部，实现极低延迟的传感器处理。

为工业现实而打造

　　从精密制造到医疗机器人，工业应用要求平台能够在极端条件下可靠运行：剧烈振动、电气噪声、温度波动、ECC等。它们还需要轻松集成到工业网络中。IGX Thor平台正是针对这些需求而设计的。

• 工业级组件：IGX Thor的每个方面，从内存到电源传输，都经过精心挑选以确保韧性，支持扩展温度范围、冲击和振动合规性以及ECC实现。
• 加固型机箱：可提供坚固的工业外壳，IGX Thor可部署在工厂、仓库、野外车辆或任何传统电子设备可能出现故障的地方。
• 长生命周期，全球支持：IGX平台支持长达10年，为受监管行业提供无与伦比的可靠性和供应链保障。
• 丰富的I/O：IGX Thor提供丰富的工业I/O——多个PCIe Gen5、SFP+、CAN和高速数字接口——简化了与现有PLC、传感器、机器人、控制网络等的集成。

功能安全与主动AI安全

　　IGX Thor将高性能AI和功能安全统一到一个平台中，实现了内外兼修的机器人安全。机器人可以依赖板载传感器或具有外部视角的基础设施传感器来做出安全决策。

　　IGX Thor符合ISO 26262和IEC 61508标准，目标达到ASIL D/SC3和ASIL/SIL 2等级。它集成了多种安全特性，包括：

• 硬件故障检测
• 安全状态监控
• 系统内测试
• DRAM ECC
• 免于干扰 (FFI)
• 专用功能安全岛 (FSI)，一个独立、冗余的安全处理器，负责监控和处理安全关键工作负载，在安全域和非安全域之间提供真正的硬件隔离。

企业级工业平台

　　NVIDIA AI Enterprise – IGX 是一个面向边缘AI的软件解决方案，使IGX Thor成为一个具有可预测长期支持的企业级、生产就绪平台。NVIDIA承诺为IGX提供长达10年的生命周期，涵盖硬件可用性、安全更新和全栈维护。这意味着工业、医疗和机器人部署可以在其整个使用寿命期间保持补丁更新和获得支持。

　　此外，NVIDIA AI Enterprise 提供一个长期支持 (LTS) 分支，其版本锁定的AI框架和SDK维护10年——同时提供企业级SLA，如商业标准和商业关键支持。这确保了稳定的API、定期的安全修复，以及需要时可全天候联系NVIDIA专家。

从NVIDIA Jetson Thor无缝过渡

　　从NVIDIA Jetson Thor到NVIDIA IGX Thor的过渡是无缝的。Jetson T5000和IGX T5000在引脚、外形和功能上完全兼容，因此相同的载板设计适用于两个平台。软件栈也是一致的——内核、用户空间和AI库共享相同的版本——在Jetson和IGX上提供一致的体验。

　　对于有更深层定制需求的团队，NVIDIA正在推出JetPack on IGX，将JetPack的灵活性带到IGX硬件的工业强韧性上。

开始使用 NVIDIA IGX Thor

　　自动化领导者、医学成像先驱和大型制造商已经在采用NVIDIA IGX Thor。领先的ODM和传感器合作伙伴可以提供生产就绪的系统和服务，以加快产品上市时间。

　　工业自动化、医疗保健、能源和智能基础设施正在被AI改变——提高生产力、增强安全性并降低成本。但在这些环境中部署AI需要更多：硬件必须在恶劣环境中生存并蓬勃发展，数据必须受到保护，系统必须满足世界上最严格的功能安全要求。

　　NVIDIA IGX Thor 在每一个环节都表现出色。它弥合了现代AI的灵活性与受监管、安全关键的工业环境的严格要求之间的差距。凭借从芯片开始设计的功能安全性、对性能最佳GPU的支持以及为合规、管理和AI进步准备的软件栈，IGX Thor是未来十年工业AI值得信赖的平台。

　　IGX Thor 开发者套件和 IGX Thor 开发者套件 mini 可通过全球分销商购买。

　　立即开始使用 NVIDIA IGX Thor。