跳到正文
原文
NVIDIA Blog· Gerardo Delgado·· 9 小时前精选AI 评分66

NVIDIA 在 GTC Berlin 发布 RTX Spark、DGX Spark 与 DGX Station 本地 AI 更新

Bringing the Spark to Europe: Local Intelligence Powers Next Wave of Agents

AI 导读

NVIDIA 在 GTC Berlin 展示本地 AI 硬件全线并公布多项更新:RTX Spark 用于 Windows PC 上的个人智能体,DGX Spark 64GB 于 10 月 23 日由合作伙伴开始出货,DGX Station 面向企业前沿负载。

推荐理由

原文一次性列出本地 AI 硬件、模型适配和推理加速的更新节奏,读者可据此判断本地部署路线是否值得跟进。

正文 · AI 翻译

在柏林 GTC 上,NVIDIA 展示了其全线本地 AI 硬件产品。RTX Spark于上周发布,可在 Windows PC 上运行个人智能体;DGX Spark支持开发者在 Linux 上构建和扩展应用;DGX Station则为在 Linux 上运行前沿工作负载的企业团队提供服务,Windows 版本将于 12 月推出。

发布内容如下:

  • Underdog 桌面智能体现在可用于 RTX Spark
  • DGX Spark 64GB 将于 10 月 23 日(周五)上市
  • NVIDIA Sync 将支持八台 DGX Spark,并于本月新增 Model Launcher
  • 10 月 DGX Spark 软件更新新增 Wi-Fi Assistant,并更新 DGX Spark Skills
  • DGX Station 通过七项新集成提升可管理性
  • DGX Station for Windows 将于 12 月推出,支持众多制造应用和智能体框架
  • 面向 DGX Station 上机器人技术的三个全新开源参考工作流
  • NVIDIA Cloud Functions 将在 DGX Station 上开放早期访问
  • Recursive Flint,一款全新的本地编码模型,现已面向 NVIDIA 本地硬件提供
  • 首日支持全新的 Nemotron、GLM、DeepSeek、Qwen、MiniMax 和 FLUX.3 AI 模型
  • 为 llama.cpp 和 vLLM 推理引擎带来新的加速,并推出一系列针对本地 AI 硬件优化的新检查点。

在下方详细了解这些本地 AI 发布内容,并查看柏林 GTC 的演示和会议。

阅读 NVIDIA 在欧洲的全部发布内容

RTX Spark 将个人智能体带到 Windows PC

RTX Spark 是 PC 的新起点——可运行个人智能体、加速内容创作,并以最高 128GB 统一内存和 1 petaflop AI 算力实现 1440p 100 帧/秒游戏体验。

以下是该平台自 10 月 16 日发布以来早期评测者的评价:

“严肃创作者的梦想机器……” —— CGMag

“为 AI 的未来而设计……” —— The Verge

“一台性能极强、便携性出奇且高效的机器……” —— PCMag

Underdog是一款专为完全本地、私密 AI 打造的全新桌面智能体应用,也将其体验带到了 RTX Spark。Underdog 由其 Husky 模型专用推理引擎驱动,完全在设备上运行模型,因此个人智能体可以完成工作,而用户数据始终不会离开 PC。Underdog 现已可下载。

为了更好地让开发者和爱好者构建和定制本地智能体,许多 RTX Spark 笔记本电脑配备了已解锁的引导加载程序。

在 GTC 主题演讲中,NVIDIA 创始人兼 CEO 黄仁勋展示了运行在 RTX Spark 上的 AI 智能体如何利用 NVIDIA Isaac Lab、Hermes Agent 和 Nemotron 3.5 Bolt 74B 训练Hugging Face 的 Microduck 机器人。

ASUS、Dell Technologies、HP、Lenovo、Microsoft 和 MSI 的笔记本电脑现已上市,Acer 即将推出。

详细了解 RTX Spark,并通过最新的 RTX Spark playbooks 开始使用。

DGX Spark 为开发者提供构建空间

全新的 DGX Spark 64GB 系统 —— 可运行包括 Nemotron 3.5 Bolt 74B 24GB、Qwen3.8 27B 和 Gemma 4 26B-A4B 在内的模型 —— 将于 10 月 23 日(周五)起通过合作伙伴陆续推出。

当工作负载需要更大容量时,开发者可以通过内置的 NVIDIA ConnectX-7 网络和 NVIDIA Sync Cluster Assistant 连接多台 DGX Spark 系统。这使用户能够运行 Qwen 3.8 Flash Next、DeepSeek v4 Flash 0731 和 GLM 5.3 Flash 等高级编码模型。

现在,DGX Spark 在手动配置下支持最多八台设备的集群,从而实现更大模型、更长上下文、并发智能体和分布式开发。它非常适合小团队共享单个集群作为后端,每位开发者针对同一模型运行并发会话,提供 1TB 统一内存 —— 足以运行 GLM 5.3 等前沿级模型。

通过 DGX Spark 集群 playbook 开始使用。

NVIDIA Sync Model Launcher 也将于本月晚些时候推出。它简化了在单台 DGX Spark 或集群上访问本地 AI 的流程。只需点击几下,Model Launcher 就会下载适合当前配置的模型和容器,并将模型连接到 OpenCode。它会自动加载 DGX Spark Skills,用于故障排查、设备维护、访问官方文档和其他工作流指导。

10 月的 DGX Spark 软件更新带来了新的 Wi-Fi Assistant,让用户在 DGX Spark 以设备模式运行时切换网络。此外,DGX Spark Skills 通过 OpenCode 直接在 NVIDIA Sync 中提供以工作流为中心的故障排查和设备维护指导。

DGX Spark 系统可直接从 Acer、ASUS、Dell Technologies、GIGABYTE、HP、Lenovo、MSI 和 NVIDIA 购买。

DGX Station 将前沿智能带到桌面

对于更大的团队,DGX Station 提供 748GB 一致性内存和高达 20 petaflops 的 AI 性能,使开发者能够运行 GLM 5.3 等高级模型,并以堪比云模型的速度服务 30 多名用户。为进一步扩展规模,NVIDIA Sync 现已支持 DGX Station,简化了两个基于 Linux 的系统之间的连接。

与 Absolute Security、Splunk by Cisco、Fleet Device Management、Microsoft Intune、Perforce Puppet、Progress Software Chef 和 Tanium 的新集成让 IT 团队能够通过企业部署、管理和合规流程来管理 DGX Station 系统,帮助加快审批并降低部署风险,同时最大限度地缩短首 token 时间。

借助即将推出的基于 Windows 的系统,开发者可以构建工作流,利用专业应用程序,在NVIDIA RTX PRO GPU上运行,并由在 NVIDIA GB300 系统上运行其大语言模型(LLM)的智能体来操作——这一切都在一台机器上完成。

DGX Station for Windows预计将于 12 月由系统制造商合作伙伴推出,将本地 AI 扩展到企业已在使用的应用程序和操作环境中。工程师可以在 Windows 原生软件中运行本地模型和智能体,并访问同一系统上的 AI 模型、工具和智能体。

DGX Station for Windows 将支持来自 nTop、Dassault Systèmes、Keysight Technologies、MathWorks、Rockwell Automation、Siemens、Synopsys、Unity 和 Altera 的制造应用程序,用于 AI 引导的设计、仿真、验证和工程自动化。用户将能够在企业环境中本地运行使用 Hermes Agent、Perplexity 或 Aible 的智能体,实现智能体控制。

同样的本地受控计算模式也延伸到了机器人领域。DGX Station 为机器人团队提供专用计算资源,用于后训练、仿真和评估,缩短迭代周期,无需等待共享基础设施。

NVIDIA 发布了三个开源参考工作流,将 GPT-6 Astra、NVIDIA Isaac Lab、Isaac Lab-Arena 和 Cosmos 引入 NVIDIA DGX Station。开发者可以使用它们通过强化学习优化 GR00T 1.7 模型、训练灵巧操作技能,并对 Cosmos 世界模型进行后训练以生成合成数据。

NVIDIA Cloud Functions即将以早期访问形式登陆基于 Linux 的 DGX Station。团队可以在共享目录中注册本地模型端点,并通过一个兼容 OpenAI 的入口访问它们。 

开发者无需更改应用程序代码即可升级端点背后的模型,而团队成员无需直接访问机器即可使用共享模型。这使 DGX Station 成为团队本地控制的推理服务。  

DGX Station 将本地迭代带入 AI 工厂开发。在柏林 GTC 的展台上,NVIDIA 正在预览在 DGX Station 上运行的 DSX OS,以在完整基础设施可用之前模拟 AI 工厂运营。另一个演示将展示 DGX Station 系统为 30 多名软件开发人员提供本地 token 工厂支持。

DGX Station 系统今日起由 ASUS、Dell Technologies、GIGABYTE、HP、MSI、Supermicro 和 Exxact 出货。面向 Windows 的 DGX Station 系统预计将于今年晚些时候开始由 ASUS、Dell Technologies、GIGABYTE、HP、MSI 和 Supermicro 出货。 

推出 Recursive Flint——一款为 RTX Spark 优化的全新本地编码模型

今天,前沿 AI 实验室 Recursive Superintelligence 发布了 Recursive Flint,这是一款为快速、准确的编码而构建的本地 LLM。Recursive Flint 是一个 400 亿参数的 mixture-of-experts 模型,拥有 25 亿活跃参数,可提供快速推理,并在 SWE-Bench Pro v2、Terminal-Bench 2.1 和 SWE-bench verified 等智能体编码基准测试中表现良好。

Recursive Flint 使用 Recursive 的 Eureka Machine 构建,这是一个用于大规模自动化 AI 研究的系统。它自动化了整个研究循环:提出想法、实现想法、运行实验以验证想法,并利用结果决定下一步尝试什么——由此创建了专用内核,在不改变模型权重的情况下,将 Flint 在 RTX Spark 上的生成速度提升了 55%。

开发者可以在 Hugging Face 上以 Apache 2.0 许可证下载开放权重,并在 RTX Spark 和 DGX Spark 系统以及 GeForce RTX 和 RTX PRO GPU 上运行该模型。开发者还可以使用 NeMo Automodel 对模型进行后训练,以进行监督微调和低秩适应,即 LoRa,以及使用 NeMo RL 进行组相对策略优化。 

全新模型提供首日支持

NVIDIA 还新增了对 NVIDIA Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax、Liquid AI 的 LFM2.5-24B-A2B 以及 FLUX.3 Klein 扩散模型的首日模型支持。 

Nemotron Bolt E4B 4GB 将自然对话和多轮智能体技能封装在仅 4GB 内存中,可在 NVIDIA GeForce RTX GPU、NVIDIA Jetson 设备以及 RTX 和 DGX Spark 上为快速本地语音助手、互动游戏角色和嵌入式界面提供支持。Bolt E4B 4GB 将于 10 月 23 日(周五)发布。 

Black Forest Labs 的 FLUX 3 Image Klein 是一个 56 亿参数的开放权重图像模型,用于生成和编辑。经过 NVIDIA 优化的构建版本使其能够在显存低至 8GB 的 GeForce RTX GPU 上运行,并在 RTX 5090 GPU 上约四秒内生成一张 100 万像素的图像。

MiniMax M3.1 Flash 是一款为 NVIDIA DGX Station 和 DGX Spark 构建的新开放模型,将长上下文 AI 带到桌面。Liquid AI 的 LFM2.5-24B-A2B 是一个开放权重推理模型,每个 token 仅激活其 240 亿参数中的 20 亿参数,使其速度足以直接在 PC 上运行私有的工具调用 AI 智能体。

此外,NVIDIA 发布了一套新的模型检查点集合,针对本地 AI 硬件的内存效率进行了优化,使前沿级开放模型能够在运行时留出足够内存用于 KV 缓存。每个检查点都经过量化,同时保持接近全精度的准确度,首先是可在单台 DGX Spark 128GB 或 RTX PRO 6000 上运行的 Qwen3.8-Flash-Next-FP4-Local,以及可在两套系统上运行的 GLM-5.3-Flash-FP4-Local。

开发者可以在发布当天使用NeMo AutoModel在 DGX Spark 和 RTX Spark 上进行后训练,并附有Nemotron Bolt E4B、Flux 3 Image Klein等示例配方。 

加速 AI 推理

NVIDIA 继续与 llama.cpp 和 vLLM 开源社区合作,在本地硬件上加速智能体工作负载。

在 llama.cpp 中,针对 Qwen 3.8 Flash Next 新增的 MTP 推测解码支持,使 NVIDIA RTX PRO 6000 Blackwell 上的端到端智能体任务最高提速 1.4 倍。

在 vLLM 中,更快的推测解码以及针对 Qwen 线性注意力层的新 FlashInfer 预填充内核,使 DGX Spark 上使用 Qwen3.8 27B 的智能体任务最高提速 1.3 倍。在 DGX Station 上,GLM 5.3 Flash 的吞吐量最高提升 1.2 倍。

查看NVIDIA 的本地 AI 推理配方,试用这些最新优化。

在X、Instagram、TikTok和Facebook上关注 NVIDIA RTX Spark,并订阅NVIDIA Local AI 新闻通讯以获取最新信息。在LinkedIn和 X上关注 NVIDIA Workstation。 

请参阅 通知,了解软件产品信息。 

阅读 NVIDIA 在欧洲的全部公告

来源:NVIDIA Blog · blogs.nvidia.com