近日，英伟达（Nvidia）已开始为其工业和机器人 Jetson 硬件平台增添 "前沿 "生成式人工智能功能，这些功能可在设备内运行，而无需与云端通信。该公司声称，这些更新将使制造业、物流业和医疗保健业等领域的 10,000 多家英伟达客户能够更轻松地采用有望促进自动化的新兴生成式人工智能功能。

生成式人工智能机器人

英伟达对其 Jetson 软件的升级旨在简化生成式人工智能在工业系统中的设计和操作。其目的是在不需要大量特定训练数据的情况下，集成生成式人工智能功能。英伟达正在提供开发者工具，如预训练模型、API 和微服务，这样工程师就能在机器人、制造系统和物流网络等边缘设备中快速构建人工智能。使用现成的工具意味着工程师在为机器人或制造设备开发人工智能时不必完全从零开始。例如，生成式人工智能可以让机器人理解自然语言指令，调整运行轨迹以避开障碍物，或者在装配线上移动时识别产品缺陷--所有这一切都不需要大量的重新编程。同样的工具还可以用来教无线传感器追踪仓库中的资产，并自动提供库存更新。用户无需对系统重新编程，只需与机器人对话，就能教会它执行新任务。

这些更新建立在英伟达现有的Isaac机器人框架和面向工业设备的Metropolis平台基础上，已有成千上万的客户在使用这些框架和平台。通过增强功能，可以无缝利用生成模型等新兴人工智能技术。这包括访问英伟达 全新的 Jetson Generative AI Lab，工程师可以在这里获得优化的工具和教程，以部署从文本生成到可视化数据处理的 AI 创新。Nvidia 还将推出新的计算机视觉微服务和 API，让开发人员能够轻松地为自动化系统注入新一代人工智能功能。此外，一系列新的预构建人工智能模板将使工程师能够快速采用为制造、检测、物流等领域量身定制的模块化组件，实现即插即用。将生成式人工智能等先进模型顺利集成到边缘设备中，对于充分发挥人工智能在各行各业的潜力至关重要。

英伟达负责嵌入式和边缘计算的副总裁 Deepu Talla 表示："生成式人工智能将大大加快边缘人工智能的部署，其泛化程度、易用性和准确性都将超过以往。我们在 Jetson 上对 Metropolis 和 Isaac 框架进行了有史以来最大规模的软件扩展，结合变压器模型和生成式 AI 的强大功能，满足了这一需求。"

英伟达人工智能的优势

将生成式人工智能纳入英伟达的工业机器人领域，符合该公司当前的成功战略，即在可行的情况下利用该技术。目前，英伟达 在涉及生成式人工智能的几乎所有领域都投下了长长的阴影，而且没有任何安于现状的迹象。该公司最近展示了其 Grace Hopper CPU+GPU 超级芯片如何在 MLPerf 行业基准测试中超越任何对手。Nvidia 表示，MLPerf 测试的目的是让用于提升 LLM 效率和推理处理能力的新 TensorRT-LLM 软件更具吸引力。

TensorRT-LLM利用Nvidia的GPU和编译器大幅提高了LLM的速度和可用性。基于 TensorFlow 的平台最大限度地降低了编码要求，并将性能优化卸载到软件中。该公司的 TensorRT 深度学习编译器和其他技术允许 LLM 在多个 GPU 上运行，而无需更改任何代码。这两项升级扩展了英伟达今年早些时候的生成式人工智能工作。从那时起，它就迅速扩大了运营规模，包括与 Hugging Face 合作开发训练集群即服务（Training Cluster as a Service），这是一种用于简化企业 LLM 创建的工具。