NVIDIA NVLink 6 如何为 AI 工厂提供多层韧性
NVIDIA 详解 NVLink 6 如何为 AI 工厂提供多层韧性。大规模 AI 训练中,集群内每块 GPU 每秒需在数千次集合通信中同步梯度;推理阶段非计划停机则会直接减少已服务的请求量,限制收入。
NVIDIA 详解 NVLink 6 如何为 AI 工厂提供多层韧性。大规模 AI 训练中,集群内每块 GPU 每秒需在数千次集合通信中同步梯度;推理阶段非计划停机则会直接减少已服务的请求量,限制收入。
NVIDIA 详解 Groq 3 LPX 的确定性执行机制,说明其如何在 NVIDIA Vera Rubin 平台上实现高交互推理的能效提升。文章指出,AI 工厂的核心约束是功耗,因此每瓦性能而非原始吞吐量才是衡量 AI 平台价值的标准。平台各组件需在有限功耗预算内最大化输出。
IBM 研究团队在 ALTK-Evolve 中新增一致性准则(consistency guidelines),用于解决智能体同一任务多次运行结果不稳定的问题。
推荐理由:原文给出检测智能体决策不稳定点的方法与开源实现,并说明如何将诊断转成可复用准则。
Gergely Orosz 走访 OpenAI 总部并访谈七位工程负责人,梳理 Codex 在该公司内部的落地情况。Codex 从 1 月起成为核心工具,OpenAI 在四个月内让财务、招聘、法务等非工程团队的使用率从约 0% 升至 90%。
推荐理由:通过访谈披露 OpenAI 内部 Codex 驱动软件工厂的九个环节,可观察编码智能体如何改变研发流程与工程岗位。
NVIDIA FLARE 支持在 Docker、Kubernetes 和 Slurm 上运行联邦学习,解决项目从单服务器、少量客户端扩展到共享基础设施时的编排问题。随着规模增长,GPU 需按需分配、多项研究需相互隔离,且每个参与机构都要保留对自身数据的控制权。
NVIDIA 用 Transformer Engine 加速 JAX 中的 Dropless MoE 训练。MoE 已成为大规模 AI 模型训练的标志性架构趋势,DeepSeek、Qwen、Mixtral 都是通过条件计算以更低训练算力达到或超过稠密模型性能的 MoE 模型代表。
IBM 将举办一场关于负责任 AI 的免费互动网络研讨会,介绍 AI 的不同类型、相关顾虑,以及 IBM 在负责任 AI 上的做法,并为学生个人和 IEEE 分会成员提供行动指导。参与者还将围绕软件开发生命周期智能体 IBM Bob 这一用例实践负责任 AI 方法并参与问答。
OpenAI 于 8 月 25 日完整公布首款 AI 加速器芯片 Jalapeño,提供最高 13.4 petaflops 的 4-bit 算力、232 GB 内存和 15.4 TB/s 带宽,并称其相比 Nvidia GB300 可将端到端延迟最多降低 3.6 倍。
网络安全专家 Bill Swearingen 在 DEF CON 展示用强化学习生成对抗图案,可干扰 YOLO 等 11 个物体检测模型,降低其置信度甚至使其无法检测。
Andon Labs 让 AI 智能体管理旧金山的实体商店 Andon Market 和斯德哥尔摩的 Andon Café,用真实经营场景测试智能体能承担多少现实责任。
MIT 研究人员提出 HardFlow,让预训练生成模型在部署阶段满足安全、物理等不可妥协的硬约束,同时提升输出质量,无需重新训练。该方法把硬约束采样重构为轨迹优化问题,只在最终输出上强制约束,而非每个中间步骤。在机器人操作、迷宫导航和文本引导图像编辑实验中,HardFlow 实现完全约束满足,质量持续优于基线方法,计算时间与多数同类方法相当或更低。
MIT 分拆公司 Atlas Building Composites 开发出 AI 驱动的机器人制造平台,用无水塑料回收和大型复合材料增材制造技术,将一次性塑料与美产玻璃纤维熔合,打印地基、甲板、桁架等建材。
GitHub 日韩营销团队用 GitHub Issue 表单、Labels 和 Actions 把活动运营流水线化:Issue 表单收集活动字段,标签触发工作流,活动从单个 Issue 自动搭建、每天筛选报名者并在结束后自动收尾。
美国联邦实验室联盟将 2026 年技术转移卓越奖授予 MIT Lincoln Laboratory 与麻省总医院(MGH)联合研发的 AI-GUIDE 医疗设备。该设备将定制 AI 软件与商用便携式超声结合,可帮助经过少量专业训练的军医在院前环境完成导丝与导管置入血管,正被转移至初创公司 AutonomUS Medical Technologies,并已获 FDA 突破性设备认定。
Nathan Lambert 发布了一份开源 AI 与开放模型阅读清单,收录近年关于开放模型的最佳写作,覆盖开放模型的定义与发布动机、商业战略、风险与安全、中美竞争等主题,清单最后更新于 2026 年 9 月 15 日,并持续接受补充。
继 GPU 短缺和内存短缺之后,AI 智能体因大量使用工具而消耗更多 CPU,正带来新的 CPU 短缺趋势。The Pulse 第 191 期指出,如果未来需要更多算力,最好现在就锁定。
NVIDIA 通过全栈 NIM 优化,使 Nemotron 3 Ultra 在相同 GPU 基础设施上可服务的并发用户数提升 2.5 倍。该优化针对生产级 LLM 部署中的并发与交互性权衡,对提示词长、跨步骤复用上下文的智能体 AI 负载尤为关键。
AI 研究者 Jacob Coxon 以安全风险为由辞职,其帖文在《华尔街日报》独家报道和 Daniel Kokotajlo 同日登上 Joe Rogan 播客的配合下迅速引爆舆论,把此前只在圈内打转的 AI 生存风险讨论推向大众。
NVIDIA BioNeMo Inference Runtime(BioIR)可在 NVIDIA GPU 上加速受支持的生物分子结构预测模型,同时保留熟悉的 PyTorch 工作流。它通过优化 kernel,并在适用场景下使用 CUDA Graphs 来加速模型推理,目标是把整个工作列表高效跑完现有的蛋白质组级别预测流程。
NVIDIA 基于 Nemotron 与 Palantir Foundry 将供应链专家经验代码化,以优化从晶圆出厂到首个 token 生成的全流程。其供应链绩效被拆分为两段:time-to-rack 指硅片离开晶圆厂到整机系统抵达数据中心,time-to-token 则涵盖供电、散热、网络与软件栈。
TRL v1.14 的 AsyncGRPOTrainer 现已支持只训练并同步 LoRA adapter 到 vLLM,训练与推理可跑在各自独立的 HF Jobs 上。
Hugging Face 发布 Workflow1111,用 Gradio Workflow 把 AUTOMATIC1111 的大部分功能重建成一张包含 73 个节点的画布,覆盖文生图、高清修复、图生图、提示词矩阵、VLM 反推、检测生成 inpaint 蒙版、ControlNet 式标注器、背景移除、PNG Info 和图像生视频等 11 条媒体流水线。
MIT Schwarzman 计算学院今夏启动首届 AI Educators Pilot,为期一周的 workshop 面向大波士顿地区、南卡罗来纳、西弗吉尼亚和得克萨斯的 19 名高校教师,基于课程 C01/C51(Modeling with Machine Learning)探讨如何把 AI 教学材料适配到各自学科课堂。
NVIDIA 详解多模态推理优化技术 Encode-Prefill-Decode(EPD)解耦:将视觉编码阶段与 prefill、decode 阶段分离,在图像密集提示、短到中等长度输出以及量化 MoE 模型上收益最大。结合 NVIDIA Dynamo 使用,最多可实现 5 倍加速。
NVIDIA 发布 CUDA Toolkit 13.4,新增对 Windows on Arm 平台的支持,此前 CUDA 应用在 Arm 平台仅通过 Linux 获得支持。该版本还带来更多功能与性能改进,并加强对共享 GPU 的控制。
OpenAI 核心产品与平台负责人 Tibo Sottiaux 在 The Pragmatic Engineer 播客中讲述 Codex 的构建与迭代:Codex CLI 用 Rust 编写并开源,其 harness 始终略微领先 OpenAI 最新模型,且支持接入其他厂商模型。
Anthropic 于 8 月 11 日宣布未来所有 Claude 模型都将生成带水印的文本,其方案基于 Google 用于 Gemini 的 SynthID-Text,OpenAI 尚未推出但计划跟进。
Sebastian Raschka 结合 GPT-6 Astra 的基准表现与计算机使用能力,详细解释循环 Transformer 复用同一组 Transformer block 的机制,并评估 The Information 关于 Astra 使用循环 Transformer 并隐藏思维链的报道。
Interconnects 作者 Nathan Lambert 指出,AI 目前对普通人日常生活的直接触达仍然边缘且收益有限,家庭、饮食、交通、娱乐几乎未受实质影响。
中国网信办等机构发布新规,自 7 月 15 日起监管提供持续情感互动的拟人化 AI 服务,要求不得制造情感依赖、不得挤占人际交往,并对老年人设额外保护、禁止向 18 岁以下用户提供虚拟亲密关系,成人使用陪伴类 AI 每 2 小时需收到一次 AI 非人类的提醒。
Gergely Orosz 汇总了 AI 智能体大量生成代码后各家公司的代码评审做法:最常见的是让 AI 评审工具先过一遍代码、开发者再评审评审本身;另一种是按影响范围分流,低风险改动只由 AI 把关,高风险改动必须人工评审,Anthropic 和 OpenAI 都采用这一思路。
AI 编码工具让代码量激增,软件团队开始重做代码审查流程:先用 AI 智能体做首轮检查,再把高风险改动交给人工,并要求提交者解释智能体的设计选择。Sonar 对 1100 多名开发者的调查显示,受访者估计共享代码库中 42% 的新增代码由 AI 贡献,96% 的人不完全信任其输出可靠性;Synthesia 的 pull request 同比增长 120%,其中 95% 含 AI 生成代码。
智谱 GLM-5.3 从 GLM-5.2 及更早版本的 MIT 许可证转为自定义许可证:若被许可方或其关联方运营 Model as a Service 业务且连续 12 个月总收入超过 100 亿美元,须先通过 Z.AI 安全审查,方可商用。
Google DeepMind 推出 AlphaGenome Atlas,一个包含人类基因组约 90 亿个单核苷酸变异效应预测的平台,以 1-petabyte 数据集预计算 AlphaGenome 的预测结果。
推荐理由:AlphaGenome Atlas 把全基因组 90 亿个单碱基变异的预测预计算成可检索平台,读者可据此了解变异解读资源的规模与开放方式。
Google DeepMind 于 9 月 8 日发布 AlphaGenome Atlas,这是一个在线仓库,预先计算了参考人类基因组全部 90 亿种单碱基变异的 AlphaGenome 预测结果。
NVIDIA 宣布推出 CUDA Rust,为 Rust 提供原生 GPU 编程支持,并给出两条编写 GPU 内核的路径。CUDA C++ 与 CUDA Python 已是成熟的企业级工具链,CUDA Rust 将在 2027 年及以后持续完善。该方向面向推理引擎、服务基础设施、驱动和智能体运行时等不断变化的 AI 系统层。
Google DeepMind 发表论文,让 100 个运行 Gemini 3.1 Pro 的自主 LLM 智能体协作求解 71 道数学题,并提供公共公告板、私信和共享知识库三种协作渠道。
NVIDIA 团队用 NVIDIA NemoClaw 构建了一个记忆驱动的"幕僚长"智能体,通过名为 self model 的人类可读知识层维护智能体的相关记忆。企业工作涉及随时间变化的邮件、决策、项目与待办事项,缺乏上下文的智能体必须先重建这些信息才能参与工作。
NVIDIA 介绍如何在 Jetson 边缘硬件上部署并优化前沿推理与智能体模型。此前具备多步推理能力的模型体积过大,无法在边缘本地运行,开发者只能把推理绕经数据中心,带来网络依赖、成本上升和本可留在设备上的数据外泄风险。NVIDIA 表示这一限制正在被解除。
GitHub 发布研究预览 Project HydraFusion,在 GitHub Copilot 运行时对多个提供商的模型做编排,创建完整执行计划,让模型起草、评审、修订或升级到更强的模型。
推荐理由:GitHub 官方披露多模型编排的三种执行模式与三项基准的成本质量对照,可据此判断多模型路由在编码任务中的落地方式。