英伟达发布游戏内推理 SDK，打造智能游戏角色的秘密武器

数码芝华士

英伟达于 2 月 20 日发布博文，宣布推出 NVIDIA In-Game Inferencing（NVIGI）SDK，简化 AI 模型在游戏中的部署，实现从云端到本地 PC 的无缝衔接，从而推动游戏 AI 的革新。

IT之家援引英伟达官方介绍，NVIGI SDK 是一款基于插件的 GPU 优化推理管理器，旨在简化 ACE 模型与游戏和交互式应用的集成，提供以下功能：

• 简化 AI 集成：开发者可将 AI 推理直接集成到 C++ 游戏中，优化性能并降低延迟。
• 赋能 ACE 角色：借助 NVIGI SDK，开发者可以将 NVIDIA ACE AI 角色轻松引入游戏，打造更智能的游戏体验。
• 插件式架构：采用 GPU 优化的插件式推理管理，简化 ACE 模型集成。插件支持灵活添加、更新和管理，涵盖语音识别（ASR）、语言模型等多种 AI 功能。
• GPU 优化：利用 Compute-in-Graphics （CIG）技术，在渲染的同时高效进行 AI 推理。
• 原生 DLL 支持：提供 Windows 原生 DLL，简化 C++ 游戏开发流程。
  
  

开发者通过结合 NVIGI 与 ACE 技术，可以创造出具备高级生成式 AI 能力的自主角色。这些角色不仅能进行实时 NPC 对话，还拥有上下文记忆和逼真的动画，从而极大地提升游戏的沉浸感和互动性。

NVIGI 的架构支持灵活集成各类 AI 功能，并能编排智能代理工作流程，使游戏角色能够实时地听、推理、说话和做出动画反应。

开发者只需初始化 NVIGI，加载插件和模型，创建运行时配置，启用 GPU 调度和渲染集成，即可开始使用 ACE 的设备端推理功能。NVIGI SDK 提供了丰富的插件选择，包括支持不同硬件和模型的语音识别（ASR）、语言模型（GPT）以及 RAG 嵌入等功能，为开发者提供了强大的 AI 工具箱。