NVIDIA 机密计算支持私有高性能生产级 AI 推理
NVIDIA 机密计算(CC)为 LLM 推理提供在可信环境中运行的路径,通过内存加密的机密虚拟机(CVM)和机密 GPU 处理个人、企业及受监管场景中的敏感信息与专有模型上下文。
NVIDIA 机密计算(CC)为 LLM 推理提供在可信环境中运行的路径,通过内存加密的机密虚拟机(CVM)和机密 GPU 处理个人、企业及受监管场景中的敏感信息与专有模型上下文。
NVIDIA 推出 Topograph,用于拓扑感知的 GPU 工作负载调度。AI 工厂是功率受限系统,工作负载放置不当会割裂拓扑域、迫使流量走共享链路,降低吞吐、抬高作业成本,并让 GPU 在等待数据时白白消耗已分配电力。
NVIDIA 发布 DLSS 5,引入 3D-Guided Neural Rendering 与更细粒度的控制选项,帮助游戏开发者加入更逼真的光照和材质细节,同时保留艺术意图。面向游戏开发者的更新还包括 NVIDIA ACE、RTX Mega Geometry 2.0 和 RTX Kit,覆盖角色 AI、高密度几何与渲染工作流。
NVIDIA 在 ROSCon 发布 Isaac ROS 5.0,为 ROS 开发者带来智能体工作流与新的平台支持,免费开源。新版本支持 ROS Lyrical 和 Ubuntu 24.04,并与 Open Source Robotics Alliance 合作向 ROS Lyrical 贡献标准数据处理接口,CUDA 提供 GPU 加速示例。
NVIDIA 介绍如何借助 AI 智能体与 Isaac ROS 加速 ROS 2 节点:单有快速 CUDA kernel 并不足以让 ROS 2 graph 变快,消息在节点间传递时仍可能在 CPU 内存中序列化或拷贝,抵消感知与 AI 负载留在 GPU 上的收益。方案依托上游抽象与 NVIDIA 近期推出的 CUDA buffer 后端来消除这一瓶颈。
oMLX 创作者兼维护者 Jun Kim 加入 Hugging Face,oMLX 由此从副业变为有全职投入和资金支持的项目,仍保持 Apache 2.0 并由 Jun 继续主导。
Hugging Face 为 transformers 加入 GGUF 支持,可从 Hub 选择量化 checkpoint 并通过 from_pretrained 加载,在本地机器上生成文本。
推荐理由:原文给出在 transformers 中直接加载 GGUF 的用法与本地推理表现,读者可据此判断量化模型的本地使用方式。
英国 AI Security Institute(AISI)通过 EvalEval 的 Evaluation Cards 公开分享评测方法与结果,覆盖 HealthBench。
NVIDIA TensorRT 多设备推理从 TensorRT 11.0 起正式支持,让单个 TensorRT 网络借助 NCCL 分布式集合通信跨多块 GPU 执行,同时保留 TensorRT 的推理优化。该能力已集成进 NVIDIA Dynamo-Triton,用于应对生成式 AI 超出单 GPU 的算力与显存需求。
NVIDIA 发布文章阐述 AI 智能体评估方法,指出上线智能体的关键问题是能否在真实环境中连续完成数十次顺序工具调用并在某步失败后恢复,而仅评估模型回答是否"听起来对"无法反映任务是否真正完成。因此智能体评估正从为单次函数调用打分,转向为整个任务打分。
NVIDIA 推出 DSX Ready 认证计划,用于评估合作伙伴产品是否符合 NVIDIA DSX AI 工厂参考设计要求,首批涵盖电池储能系统(BESS)与冷却分配单元(CDU)两类。
NVIDIA 推出 Halos,称其为首个也是唯一面向物理 AI 的全栈安全系统,覆盖设计、验证与部署各层,AV 与机器人共享同一套原则。ABI Research 预计 2035 年 L3-5 自动驾驶汽车保有量达 4900 万辆,Omdia 估算 2026 至 2035 年间约 6000 万台工业机器人将部署。
Meta 开源了 Rebalancer,一个已在其内部用于资源分配问题超过九年的分配问题求解器。该库将问题描述与求解分离,提供对象、bins、约束和目标组成的描述语言,并转换为表达式图,可用局部搜索启发式或商业求解器 FICO Xpress、Gurobi 及开源求解器 HiGHS 构建 MIP 求解。相关论文已发表于 OSDI'24。
NVIDIA 在开罗大埃及博物馆举办活动,展示埃及 AI 生态从赋能走向生产级落地,其 Deep Learning Institute 埃及学员规模一年增长超十倍。
微软在 Nature 发表逆合成模型 RetroChimera,并开源其实现与权重。该模型将基于 Transformer 的 R-SMILES 2 与基于图神经网络、使用反应模板的 NeuralLoc 结合,通过学习式集成对两者预测重新排序,性能在常见与稀有反应类别上均超越任一子模型。
NVIDIA 发布开源安全运行时 OpenShell,在模型智能体之外强制执行策略,并提供沙箱化执行,管控智能体对数据、网络和系统资源的访问。Cisco DefenseClaw 为其增加治理层,JFrog 则集成 OpenShell 扫描和验证智能体技能并限制可访问的技能范围。NVIDIA 同时通过 Open Secure AI Alliance 共享安全研究成果与工具。
NVIDIA 在纽约气候周上介绍了五家用 AI 推进清洁能源的公司。ThinkLabs AI 用数字孪生和智能体,把 Southern California Edison 评估每份电网并网申请的时间从 30-45 天缩短到 2 分钟。
Hugging Face 发布 tokenizers v1,在保持与 v0.23 相同 token ID、API 和词表的前提下重写编码流水线,速度常达 v0.23 的数十倍。重构包括 workspace 拆分、无分配 merge、用 SIMD 位运算替代正则拆分(bitcannon)、merge 循环改为侵入式双向链表、单词缓存和原生多线程并行。
NVIDIA 发布 AIPerf,用于规模化 LLM 推理的基准测试。文章指出用 curl 命令、手写 asyncio 脚本或临时负载生成器测性能都存在同样问题:单进程性能受限、Python GIL 限制并发。
MIT Libraries 旗下阅读项目 MIT Reads 在十周年之际转向小说与回忆录,以共读促进人际连接,并回应 MIT 对 AI 影响教育与校园社群的探索。校长 Sally Kornbluth 选定 Ted Chiang 的 2019 年短篇集《Exhalation》为 2026 年秋季书目,其探讨人类与 AI 关系等议题,相关作者活动多向公众开放并在线直播。
GitHub Podcast 最新一期拆解了五个 AI 热门观点,结论是:AI 生成的代码仍然要读、要审,但审查力度应随风险变化;Skills 与 MCP 解决的是不同问题,MCP 提供连接工具和数据的标准接口,Skills 更像打包好的 Markdown 经验,两者可组合使用。RAG 也没有死,它为模型提供训练数据之外的信息,可以减少 token 浪费、加快速度并降低不完整回答的概率。
GitHub 用 Copilot 智能体把 Copilot agent runtime 从 TypeScript 完全重写为超过 80 万行 Rust,AI 智能体编写了大部分代码,跨 128 个 pull request 增量合入 main。
推荐理由:一位工程师复盘用 AI 智能体把 43 万行 TypeScript 运行时迁到 Rust 的全过程,含编排、缓存与评审经验。
AI 智能体工作流可用于为物理 AI 系统准备并验证数字孪生:智能体检查 3D 场景、在 OpenUSD 中编写仿真相关数据、添加物理属性、渲染预检视图,并对照 SimReady 要求验证结果。该流程覆盖从 Blender 场景到交付给 NVIDIA 的仿真就绪 OpenUSD 交接。
NVIDIA 的 TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf Edge Agentic 基准测试,速度提升 6.4 倍。该方案面向从云端数据中心迁移到车辆、机器人等边缘设备的 AI 智能体,需快速生成 token 并在不断增长的对话中完成工具选择、结果评估与持续推理。
NVIDIA 介绍了 cuTile Rust(cutile-rs),一个用 Rust 编写 GPU kernel 的 tile 系统,将 Rust 所有权模型扩展到 tile 化的 GPU kernel 上,把可变输出切分为互不相交的片段,并在 kernel 启动间保持主机端所有权约定,同时允许程序员在需要底层控制时局部退出。
NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1,在 Qwen3-VL 上吞吐量最高达 GB300 NVL72 的 3.7 倍,DeepSeek-R1 上最高 2.5 倍。
MIT 及合作机构的研究人员提出 xvr(X-ray volume registration)技术,用 AI 将手术中的 2D X 光片与患者术前 3D 扫描自动配准,数秒内完成、精度达亚毫米级,比现有 AI 方法高出一个数量级。该模型基于物理模拟生成的患者专属合成 X 光训练,约五分钟即可适配单个患者,无需担心模型幻觉。相关论文已发表在 Nature 上。
MIT 政治学副教授 Naoki Egami 专攻研究方法论,重点审视社会科学研究中的"外部效度",即特定研究结论能否推广到其他情境。他的研究还涉及 AI 工具引入研究后的问题,早在 ChatGPT 掀起 AI 热潮前就已开始,探索如何系统识别并校正 AI 工具带来的误差。他 2025 年加入 MIT,同时是 IDSS 统计与数据科学中心教员。
Google DeepMind 发布两款实时语音对话模型 Gemini 3.8 Live 与 Gemini 3.8 Live Extended Thinking,前者主打规模化与成本效率,后者面向高复杂度任务,支持边推理边说话。
推荐理由:官方给出两款语音模型的基准分数、价格定位与开放渠道,可据此判断语音智能体的选型与部署时机。
稠密模型与 MoE 架构的核心差异在于参数激活方式:MoE 通过专家路由让 30B 参数模型每个 token 仅激活 3B 参数,却仍能利用大模型容量,Nemotron 3.5 Lightning 即为例证。文章围绕活跃参数、吞吐量两个维度展开对比,并给出两者各自的适用选择场景。
NVIDIA 详解 NVLink 6 如何为 AI 工厂提供多层韧性。大规模 AI 训练中,集群内每块 GPU 每秒需在数千次集合通信中同步梯度;推理阶段非计划停机则会直接减少已服务的请求量,限制收入。
NVIDIA 详解 Groq 3 LPX 的确定性执行机制,说明其如何在 NVIDIA Vera Rubin 平台上实现高交互推理的能效提升。文章指出,AI 工厂的核心约束是功耗,因此每瓦性能而非原始吞吐量才是衡量 AI 平台价值的标准。平台各组件需在有限功耗预算内最大化输出。
IBM 研究团队在 ALTK-Evolve 中新增一致性准则(consistency guidelines),用于解决智能体同一任务多次运行结果不稳定的问题。
推荐理由:原文给出检测智能体决策不稳定点的方法与开源实现,并说明如何将诊断转成可复用准则。
NVIDIA FLARE 支持在 Docker、Kubernetes 和 Slurm 上运行联邦学习,解决项目从单服务器、少量客户端扩展到共享基础设施时的编排问题。随着规模增长,GPU 需按需分配、多项研究需相互隔离,且每个参与机构都要保留对自身数据的控制权。
NVIDIA 用 Transformer Engine 加速 JAX 中的 Dropless MoE 训练。MoE 已成为大规模 AI 模型训练的标志性架构趋势,DeepSeek、Qwen、Mixtral 都是通过条件计算以更低训练算力达到或超过稠密模型性能的 MoE 模型代表。
MIT 研究人员提出 HardFlow,让预训练生成模型在部署阶段满足安全、物理等不可妥协的硬约束,同时提升输出质量,无需重新训练。该方法把硬约束采样重构为轨迹优化问题,只在最终输出上强制约束,而非每个中间步骤。在机器人操作、迷宫导航和文本引导图像编辑实验中,HardFlow 实现完全约束满足,质量持续优于基线方法,计算时间与多数同类方法相当或更低。
MIT 分拆公司 Atlas Building Composites 开发出 AI 驱动的机器人制造平台,用无水塑料回收和大型复合材料增材制造技术,将一次性塑料与美产玻璃纤维熔合,打印地基、甲板、桁架等建材。
GitHub 日韩营销团队用 GitHub Issue 表单、Labels 和 Actions 把活动运营流水线化:Issue 表单收集活动字段,标签触发工作流,活动从单个 Issue 自动搭建、每天筛选报名者并在结束后自动收尾。
美国联邦实验室联盟将 2026 年技术转移卓越奖授予 MIT Lincoln Laboratory 与麻省总医院(MGH)联合研发的 AI-GUIDE 医疗设备。该设备将定制 AI 软件与商用便携式超声结合,可帮助经过少量专业训练的军医在院前环境完成导丝与导管置入血管,正被转移至初创公司 AutonomUS Medical Technologies,并已获 FDA 突破性设备认定。
NVIDIA 通过全栈 NIM 优化,使 Nemotron 3 Ultra 在相同 GPU 基础设施上可服务的并发用户数提升 2.5 倍。该优化针对生产级 LLM 部署中的并发与交互性权衡,对提示词长、跨步骤复用上下文的智能体 AI 负载尤为关键。