数据中心就像是一座AI工厂，正在生成、创造、生产有价值的新商品

谈到ChatGPT对于AI发展的影响，黄仁勋指出，ChatGPT出现前，AI的发展主要集中在感知和侦测领域，例如自然语言理解、电脑视觉以及语音辨识。ChatGPT问世后，生成式AI才开始受到广泛重视。不同于以往的AI，生成式AI以Token为单位进行生成，这些Token可以生成多种形式，包括文本、图片、图表、表格、歌曲、语音和视频。甚至任何具有学习意义的事物，如化学物质、蛋白质、基因，或是在数位孪生地球Earth 2中生成气象信息，还可以用来生成汽车方向盘控制信号、或为机器人手臂生成关节等有价值的事物，「我们学到的一切，现在都可以生成。」

黄仁勋进一步强调：「我们现在已进到生成式AI时代，而不是AI时代」，这样的转变也促使原有的超级电脑进化成以输出Token为其唯一任务的数据中心。他形容这座数据中心就像是一座AI工厂，正在生成、创造、生产有价值的新商品。

他进一步解释，这座AI工厂可以为每个产业生产新商品，带来显著价值，而且这个工厂可以弹性扩展和和快速拷贝，将许多不同GenAI模型运用到各行业。这使得工厂不再仅仅是用来存储数据或进行数据处理，而是一个能为每个产业产生智能的AI工厂，进而形成一个在制造过程中运用电脑的制造行业，不再以制造电脑为主，「这在以前从未发生过」黄仁勋这样说道。

以生成式AI为契机，3兆规模的IT产业也能够直接服务百兆规模的他产业

如同1890年发明的交流发电机打开了电力时代，黄仁勋表示，Nvidia的AI生成器可以产生Token，具有和过去AC发电机一样庞大潜在市场机会，几乎可以彻底改变每个产业，这将带来新的机会，以生成式AI为契机，「3兆规模的IT产业也能够直接服务百兆规模的他产业。」他指出，从加速运算开始，促成了AI的发展，更催生了生成式AI的诞生，现在，正掀起一场新的工业革命。

生成式AI的出现不只冲击其他产业，对于IT产业的影响也非常大。他特别提到，生成式AI驱动了全堆栈重塑，将传统的软件工厂转变成AI工厂，涵盖底层硬件、指令、检索和工具层都因此改变。举例来说，过去的运算模型是以检索为导向，而未来会由生成模式取代。电脑将能生成大量内容，只检索必要的消息，这不仅需能够节省能源，还能生符合上下文相关性的信息。甚至在这样的发展下，他说，电脑不再仅仅是一种工具，而是能够生成技能并运行任务的设备。

就像当年微软推出套装软件颠覆了PC产业一样，他表示，Nvidia针对新的AI工厂和新电脑中推出一种全新形式的软件，即NIM（Nvidia Inference Microservice）。

他进一步说明，NIM是一种容器化的推论微服务。在一个NIM容器中，包含了CUDA、cuDNN，以及提供推论服务的TensorRT LLM模型推论引擎和Triton推论服务器。不仅如此，NIM采用云原生架构，可以在Kubernetes环境中自动扩展，并提供AI监控管理工具和标准API。开发人员可以在装有CUDA的电脑上部署NIM，然后像使用ChatGPT一样与其对话。此外，NIM还支持400个经过认证的服务器和工作站产品，而且可部署在不同的基础设施上，涵盖工作站、云端到本地数据中心。

通过NIM，企业可以快速使用各种LLM和预训练模型创建自己的AI应用，包含文本生成模型、影像生成模型，多模态模型等，以及各种专用领域的模型，像是健康医疗模型，数位生物模型，以及数位人类模型等。此外，NIM也针对Hugging Face平台上最新大型语言模型Llama 3进行优化。

客服AI代理将是未来关键的GenAI应用

黄仁勋也指出，客服AI代理将是未来关键的GenAI应用，各产业可以快速创建不同客服AI代理人，应对不同的客户服务需求，如数位护士、数位客服和数位导师。这些代理人可以像护理师一样，协助处理非处方或非诊断的患者照护服务，也能应对零售客户服务、食品服务、金融服务、保险服务等各种需求。

他也提到，未来在AI应用服务中会有各种NIMs组成的AI代理，这些代理人可以协同运行任务。例如，有的NIMs会负责分配任务和拟定运行计划，而其他的NIMs则会负责检索信息、进行搜索，或者使用各种工具或运行SQL查找。每个NIMs都是代表某方面的专家，这些NIMs会组成一个AI团队的应用程序，「过去，应用程序是用指令编写的，现在则转变成了组建人工智能团队的应用程序。」他强调。

黄仁勋深信，未来每家公司内部将拥有大量的NIMs。这些NIMS可以组成一个个团队，企业只需将任务交给NIM代理人，来负责分配任务和运行计划，甚至不必弄清楚如何连接它们，最后再将任务运行结果回报给企业，「就像人类一样交互，这就是未来应用程序的样貌。」他说，更大的愿景是实现数位人类，让应用程序也能像人类一样交互。

ACE正是Nvidia用来发展数位人类一套技术，以统一运算框架为基础，并提供软件工具和API，让开发人员可以制作出高度逼真和交互的虚拟分身。Nvidia最新推出了ACE NIMs，进一步将ACE集成进NIMs中，能够在Nvidia加速基础设施GDN部署和运行，可提供超过100个地区的低延迟处理。

ACE NIMs中包含了各种数位人类创建所需的NIMs。其中，Nemotron SLM和LLM NIMs负责用于理解用户的意图并协调其他模型，而Riva语音NIMs则用于交互式语音和翻译。Audio2Face的NIMs用于生成脸部和身体动画，至于Omniverse RTX与DLSS则用于生成皮肤和头发的神经渲染。

ACE不仅可以在云端运行，也能在装有RTX GPU的行动PC上运行。Nvidia表示，目前全球出货高达1亿台内置GeForce RTX的AI PC，推出逾200款内置RTX的Al笔电，在RTX GPU中包含了Tensor Core，可提供高达700个TOPS的在AI算力 。此外，在Computex 上，还有4款采用Nvidia GPU的AI PC将推出。

Nvidia还展示在RTX技术上的游戏AI助手Project G-Assist，让玩家可以在PC游戏中以文本、语音，以及游戏窗口的快照向游戏助手询问，来解答其在游戏中所遇到的任何问题。

除了支持AI PC之外，Nvidia还揭露数据中心AI运算的发展蓝图，除了现有的Blackwell架构GPU外，Nvidia预告将在明年推出Blackwell Ultra，后年发表Rubin。此外，Nvidia还进一步宣布将AI芯片的更新时程调快至每年一次，因应快速发展的生成式AI浪潮所需。

黄仁勋看好机器人应用将掀起下一波AI浪潮。他表示，这些机器人由生成式物理AI模型驱动，通过多模态大语言模型和强化学习模型，使得它们能够学习、感知并理解周围的世界，进而能够制定运行计划，以便能在现实世界中自动运行复杂任务。

他提到说，企业现今已可使用Nvidia AI超级电脑用于训练物理AI模型，并使用Jetson Orin以及下一代Jetson Thor机器人超级电脑用于运行这些模型推论。此外，还能通过Omniverse数位分身工具，让机器人在模拟世界中持续精进其技能。