NVIDIA DGX Spark 推出 64GB 版本,双机集群扩展本地 AI
NVIDIA 为 DGX Spark 新增 64GB 统一内存版本,10 月 23 日由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 出货,起售价 $4,999。
NVIDIA 为 DGX Spark 新增 64GB 统一内存版本,10 月 23 日由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 出货,起售价 $4,999。
MIT 马丁信托创业中心推出免费 AI 青年创业平台 Dear Dreamer,面向初高中学生,将"纪律化创业"框架改造成含短视频、互动练习和个性化反馈的自学体验。该框架此前课程已吸引数十万人学习,使用它的 MIT delta v 加速器学员存活/被收购率达 61%,累计融资超 30 亿美元。项目方称目标是在 2030 年前赋能 5 万名年轻创业者。
OpenAI 的 GPT-6 Astra Ultrafast 在 NVIDIA Blackwell GPU 上运行,现已面向 OpenAI API 以及符合条件的 ChatGPT Work 和 Codex 用户开放。
推荐理由:原文给出了 Ultrafast 相对标准模式的加速倍数与适用场景,读者可据此判断它在编码智能体工作流中的实际提速空间。
Amazon Quick 推出 Live Data in Apps,AI 构建的应用可在用户每次打开时实时查询受治理的 Quick Sight 数据集,不再依赖发布时的静态快照。
NVIDIA 发布 DOCA Agent Skills,为 AI 智能体补充 NVIDIA DOCA 这一基础设施软件领域的专业知识,用于在 BlueField 上更快构建应用。NVIDIA 指出,通用智能体并非为 DOCA 这类专用基础设施软件设计,缺乏领域知识时容易靠猜测行事,而基础设施开发中每次纠错都会挤占部署时间。
AI2 发布 Olmo-core 3,这是其大语言模型开发框架的一次重大升级,核心是一套重新设计的开源 MoE 训练系统,目标是把 MoE 训练扩展到万亿参数规模。
推荐理由:原文给出 MoE 训练栈在专家池扩展与吞吐上的实测对比,可据此判断大 MoE 训练的开源可选方案。
NVIDIA 发布 cuObject 和 SCADA Server SDK,为 AI 基础设施工程师、存储开发者与云服务商提供对高容量文件与对象存储的快速安全访问。AI 负载在训练、微调、推理上下文、工具调用、搜索和数据库查询中越来越需要高速数据访问,而这些数据大量存于本地与云端的文件及对象中。
NVIDIA NeMo Relay 用于追踪 Agent Harness 的运行行为,解决智能体虽然完成任务却走了低效路径的问题——例如搜索失败触发重复搜索、文件读取被截断后命令再次抓取相同内容,这些多余步骤会拉高延迟并消耗 token。这些低效步骤不会体现在最终答案里,却会增加失败概率。
Google DeepMind 推出 SynthID Bio,把水印技术带入合成生物学,在生物代码中嵌入不可感知的签名,使其不仅能在数字模型上、也能在合成出的实体蛋白质上被验证,同时保持其生物功能。
推荐理由:SynthID 首次延伸到合成生物学,给出可验证的生物水印路径和生物安全落地场景。
Amazon Bedrock 在印度上线 Anthropic 的 Claude Opus 5、Claude Sonnet 5 和 Claude Haiku 4.5,通过印度地理跨区域推理将请求限制在 ap-south-1 与 ap-south-2 之间,数据不出境。
Amazon Bedrock 现已在首尔和新加坡支持 Anthropic Claude 模型的区域内推理:首尔支持 Claude Opus 5 和 Claude Sonnet 5,新加坡支持 Claude Sonnet 5,通过 bedrock-runtime 端点调用。
GPT-6.1 Sol 在 Amazon Bedrock 正式可用,为智能体编码、电脑操作和专业工作流带来更强推理能力,是 GPT-6 Sol 的一次重大升级。
推荐理由:原文给出 GPT-6.1 Sol 在 Bedrock 上的能力与成本数据,读者可据此判断智能体编码任务的部署选择。
NVIDIA 发布 Metropolis Blueprint for Video Search and Summarization(VSS)3.3,用于降低视觉 AI 智能体的构建与运行成本。该蓝图及其智能体技能将视频接入、流处理、事件检测、检索、摘要与上报整合为一套可维护的系统,面向生产级视频理解。
Condé Nast 与 AWS 生成式 AI 创新中心基于 Amazon Bedrock 和 Amazon OpenSearch Service 构建多模态视频检索方案,采用 TwelveLabs Marengo 嵌入模型联合编码画面、音频与字幕,将单次内容检索耗时从 250 分钟降至 2 分钟以内。该方案支持自然语言意图检索、以图搜视频、错别字容错和精确时间戳定位,覆盖其 14 万余条视频库。
NVIDIA 推出 OpenShell,为 AI 智能体添加运行时控制能力,使其在被赋予目标后可编写代码、调用工具并持续工作。这类智能体需要访问工作区、计算资源、数据、凭证和外部服务,可支撑软件故障排查、实验运行等持续数天至数周的任务。
NVIDIA DSX MaxLPS 通过策略驱动的功率共享,在参与资源之间动态分配电力,让客户可部署更多 GPU。AI 工厂通常按所有 GPU 同时达到峰值功耗的极端情况预留电力,这部分保护性缓冲在正常运行时会闲置基础设施容量,而 MaxLPS 旨在把未使用的瓦数转化为可用算力,从而提升吞吐量与效率。
Hugging Face Hub 新增 RL Environments 筛选器,带 rl-environment 标签的数据集可直接在页面生成运行命令,无需新建仓库类型、注册表或注册。
GitHub Security Lab 开源 Fuzzing Taskflow,这是一个基于 Taskflow Agent 框架的自主 fuzzing 流水线,面向 C/C++ 项目,只需指向一个 GitHub 仓库即可自动识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness,还对每个崩溃做去重和漏洞报告。
推荐理由:作者公开了自主模糊测试流水线的分层架构与覆盖反馈闭环设计,适合关注 LLM Agent 落地工程细节的读者。
Google DeepMind 发布 Gemini 3.8 Live with Live Avatar,在原生实时对话模型上加入近实时视频生成,让企业智能体可以边听边看边说。
推荐理由:官方说明了实时视频形象与异步工具调用的组合方式,可据此判断企业客服等场景的交互形态变化。
NVIDIA 联合 Google DeepMind、EMBL-EBI 等机构,通过 AlphaFold Database 公开 2800 多种病毒的蛋白复合物预测 3D 结构,供任何科学家免费使用。
推荐理由:NVIDIA 联合 Google DeepMind 等开放 2800 多种病毒的蛋白复合物预测结构,读者可了解数据集规模与可复用的推理流程。
Remedy Entertainment 的 CONTROL Resonant 首发即登陆 GeForce NOW,Ultimate 会员可以 GeForce RTX 5080 级云端性能串流,支持 DLSS 4、光线追踪和最高 5K HDR,无需 100GB 本地安装。
Meta 宣布把 Private Processing 机密计算基础设施扩展到 Meta AI 眼镜,让流式转录、上下文搜索和长期记忆等云端 AI 负载在机密虚拟机(CVM)中执行,Meta 自身也无法读取用户数据。
Google Private AI Compute 团队公布为 Private AI Compute 平台带来云端持久记忆的技术方案,通过硬件安全飞地、端到端加密通道和以设备派生密钥加密的每用户数据库,让跨设备 AI 记忆在服务端保持与端侧处理同等的隐私标准,此前该平台为无状态、任务结束即清除上下文。
推荐理由:Google 公开了云端持久记忆如何用安全飞地与设备端密钥实现跨设备隐私,可看架构取舍与验证方式。
NVIDIA 推出 Topograph,用于拓扑感知的 GPU 工作负载调度。AI 工厂是功率受限系统,工作负载放置不当会割裂拓扑域、迫使流量走共享链路,降低吞吐、抬高作业成本,并让 GPU 在等待数据时白白消耗已分配电力。
NVIDIA 发布 DLSS 5,引入 3D-Guided Neural Rendering 与更细粒度的控制选项,帮助游戏开发者加入更逼真的光照和材质细节,同时保留艺术意图。面向游戏开发者的更新还包括 NVIDIA ACE、RTX Mega Geometry 2.0 和 RTX Kit,覆盖角色 AI、高密度几何与渲染工作流。
NVIDIA 在 ROSCon 发布 Isaac ROS 5.0,为 ROS 开发者带来智能体工作流与新的平台支持,免费开源。新版本支持 ROS Lyrical 和 Ubuntu 24.04,并与 Open Source Robotics Alliance 合作向 ROS Lyrical 贡献标准数据处理接口,CUDA 提供 GPU 加速示例。
Hugging Face 为 transformers 加入 GGUF 支持,可从 Hub 选择量化 checkpoint 并通过 from_pretrained 加载,在本地机器上生成文本。
推荐理由:原文给出在 transformers 中直接加载 GGUF 的用法与本地推理表现,读者可据此判断量化模型的本地使用方式。
NVIDIA TensorRT 多设备推理从 TensorRT 11.0 起正式支持,让单个 TensorRT 网络借助 NCCL 分布式集合通信跨多块 GPU 执行,同时保留 TensorRT 的推理优化。该能力已集成进 NVIDIA Dynamo-Triton,用于应对生成式 AI 超出单 GPU 的算力与显存需求。
Hugging Face 发布 tokenizers v1,在保持与 v0.23 相同 token ID、API 和词表的前提下重写编码流水线,速度常达 v0.23 的数十倍。重构包括 workspace 拆分、无分配 merge、用 SIMD 位运算替代正则拆分(bitcannon)、merge 循环改为侵入式双向链表、单词缓存和原生多线程并行。
NVIDIA 的 TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf Edge Agentic 基准测试,速度提升 6.4 倍。该方案面向从云端数据中心迁移到车辆、机器人等边缘设备的 AI 智能体,需快速生成 token 并在不断增长的对话中完成工具选择、结果评估与持续推理。
NVIDIA BioNeMo Inference Runtime(BioIR)可在 NVIDIA GPU 上加速受支持的生物分子结构预测模型,同时保留熟悉的 PyTorch 工作流。它通过优化 kernel,并在适用场景下使用 CUDA Graphs 来加速模型推理,目标是把整个工作列表高效跑完现有的蛋白质组级别预测流程。
NVIDIA 基于 Nemotron 与 Palantir Foundry 将供应链专家经验代码化,以优化从晶圆出厂到首个 token 生成的全流程。其供应链绩效被拆分为两段:time-to-rack 指硅片离开晶圆厂到整机系统抵达数据中心,time-to-token 则涵盖供电、散热、网络与软件栈。
Hugging Face 发布 Workflow1111,用 Gradio Workflow 把 AUTOMATIC1111 的大部分功能重建成一张包含 73 个节点的画布,覆盖文生图、高清修复、图生图、提示词矩阵、VLM 反推、检测生成 inpaint 蒙版、ControlNet 式标注器、背景移除、PNG Info 和图像生视频等 11 条媒体流水线。
NVIDIA 发布 CUDA Toolkit 13.4,新增对 Windows on Arm 平台的支持,此前 CUDA 应用在 Arm 平台仅通过 Linux 获得支持。该版本还带来更多功能与性能改进,并加强对共享 GPU 的控制。
Google DeepMind 推出 AlphaGenome Atlas,一个包含人类基因组约 90 亿个单核苷酸变异效应预测的平台,以 1-petabyte 数据集预计算 AlphaGenome 的预测结果。
推荐理由:AlphaGenome Atlas 把全基因组 90 亿个单碱基变异的预测预计算成可检索平台,读者可据此了解变异解读资源的规模与开放方式。
NVIDIA 宣布推出 CUDA Rust,为 Rust 提供原生 GPU 编程支持,并给出两条编写 GPU 内核的路径。CUDA C++ 与 CUDA Python 已是成熟的企业级工具链,CUDA Rust 将在 2027 年及以后持续完善。该方向面向推理引擎、服务基础设施、驱动和智能体运行时等不断变化的 AI 系统层。
GitHub 发布研究预览 Project HydraFusion,在 GitHub Copilot 运行时对多个提供商的模型做编排,创建完整执行计划,让模型起草、评审、修订或升级到更强的模型。
推荐理由:GitHub 官方披露多模型编排的三种执行模式与三项基准的成本质量对照,可据此判断多模型路由在编码任务中的落地方式。
NVIDIA 推出 PAIR 虚拟推理路由器,可将本地网络中的可用算力扩展给 AI 智能体使用。该方案面向多智能体协作场景:主智能体把复杂任务拆成子任务分派给专用子智能体,用户也会同时运行多个智能体会话。
Hugging Face 发布 funes,一个为 Claude Code、Codex、pi 和 Hermes 等编码智能体提供持久记忆的开源单文件工具,默认在本地完成嵌入和重排,无需 ML 运行时依赖。
推荐理由:原文给出了一条命令接入、本地嵌入与按需发布到自有数据集的完整路径,可据此判断跨机器与跨智能体的记忆方案是否可迁移。
Google DeepMind 在 Gemini 3.7 Flash、3.6 Flash 和 3.5 Flash-Lite 上推出智能体视频理解功能,通过动态检索帧、音频和转录文本,将 token 消耗降低最多 88%、分析成本降低最多 66%、准确率提升最多 7%。
推荐理由:Gemini 新功能给出 token 与成本下降幅度及启用方式,读者可据此评估长视频分析流程的改动空间。