Nathan Lambert:开源模型生态为何愈发依赖 Nvidia 的“造 token 机器”
Nathan Lambert 认为,开源模型生态正越来越依赖 Nvidia 的投入,后者据报道已为此花费 260 亿美元。他把带完整训练配方、数据和代码的开源语言模型比作 Linux,而只放权重和推理代码的开源权重模型更像具体软件版本。若这套投入无法带来与 Anthropic、OpenAI API 相当的回报,开源模型或转向偏效率、可修改和专用化的长尾路线。
Nathan Lambert 认为,开源模型生态正越来越依赖 Nvidia 的投入,后者据报道已为此花费 260 亿美元。他把带完整训练配方、数据和代码的开源语言模型比作 Linux,而只放权重和推理代码的开源权重模型更像具体软件版本。若这套投入无法带来与 Anthropic、OpenAI API 相当的回报,开源模型或转向偏效率、可修改和专用化的长尾路线。
AMD 一年内将 AI 带来的整体生产力提升做到 30%,超过原定两到三年 25% 的目标,其 AI 生成生产代码占比已突破 20%、部分组件超 80%。AMD 在 Radeon Software eXperience 中用 AI 智能体自动修复问题,比例从最初 6% 升至 2026 年 6 月的 75%,并正通过 Codex、Claude Code 等智能体框架探索多智能体协作。
Import AI 第 469 期介绍了 DiG-bench(Discovery in Games)基准,包含 70 款规则与目标均隐藏的手工游戏,其中 21 款已公开,Opus 5 和 Fable 5 搭配 Claude Code 表现最佳,但仅能在 Tier 7 取得 0.2 分。
Axiom Math 团队用其自主多智能体系统 AxiomProver 自动验证了素数间距相关的 246 定理证明,这是 AI 辅助数学形式化验证中迄今最重要的一次。
IEEE Spectrum 报道称,智能体 AI 的兴起正让 CPU 重新成为 AI 基础设施的关键环节。AWS 此前要求工程师尽一切代价节省 CPU 周期,因为 AI 工作负载令其云上 CPU 服务器等待时间激增。
Sebastian Raschka 发布教程,演示如何从零构建 AI 文本检测器:微调 DistilBERT 分类器输出 0-100 的 AI 生成概率分,并提供本地浏览器 UI 与 API,可对整篇文本打分并高亮各文本块的分数。项目还用该检测器作为 verifier,训练小语言模型生成能规避检测的文本,以研究 AI 检测器的局限。
Z.ai 发布 GLM-5.3,目前仅在编码套餐中提供,之后上线 API,两周后开放权重。该模型与 GLM-5.2 共用同一基座,仅大幅扩展后训练,参数量约 750B,为 Kimi K3 的三分之一,在多项智能体编码基准上超过 Kimi K3,部分指标超过 Claude Fable 5 或 GPT-5.6-Sol。
Meta 的裁员和强制转岗让未受影响的工程师也开始寻找新工作,形成一轮离职潮;Meta 如今用大额股权挽留这些人,但似乎并不奏效。作者还提到 Cursor 团队发布了一个通用 AI harness,体验类似“面向知识工作的 Codex”,他试用后用它自动化了大量日常工作,并认为更多 AI 厂商会跟进这一形态。
Hugging Face 发布 2026 夏季开源模型观察报告,基于 Hub 1 至 8 月的模型、数据集与下载数据,指出前沿模型规模由中国实验室领跑,而下载量仍集中在小型稳定模型上。
推荐理由:Hugging Face 用平台自身数据拆开浏览量、采纳量与衍生生态三层指标,读者可据此判断开源模型格局的实际分布。
AWS 开源 SDK Strands Robots(Apache 2.0)演示了机器人数据闭环:用 Robot("so100") 录制 LeRobotDataset。
Google DeepMind 发布 Gemini 3.7 Flash,称其为面向编码和智能体最智能的主力模型,距 Gemini 3.6 Flash 仅三周,首发价为 3.6 Flash 每百万 token 成本的一半,即 $0.75/1M 输入 token、$3.75/1M 输出 token,优惠持续到年底。
推荐理由:相较 3.6 Flash 的编码与知识工作基准提升和限时半价定价,是判断其性价比的直接依据。
Hugging Face 举办 ICML 2026 开放复现挑战赛,1,221 名社区成员用 Claude Code、Codex、Cursor 等编码智能体在 19 天内发布 6,816 份 Trackio logbook,覆盖 2,226 篇论文、约占大会 34%。
阿里开放了 Qwen3.8-2.4T-A95B(Qwen3.8-Max)的模型权重,这是其目前最大的开放权重模型。该模型总参数 2.4T、单 token 激活 95B,采用细粒度 MoE 架构,混合全注意力与线性注意力,上下文窗口最高 100 万 token。NVIDIA 开发者博客介绍在 GB300 NVL72 上部署该模型并支持可配置推理。
推荐理由:摘要给出 Qwen3.8-2.4T-A95B 的开放权重与关键规格,读者可借此了解其 MoE 结构与长上下文配置。
Hugging Face 的 OlmoEarth Studio 现支持计算并导出由开源 OlmoEarth 基础模型生成的地球观测嵌入向量,输出为 Cloud-Optimized GeoTIFF(COG),向量以 int8 存储、每维一个波段。
NVIDIA 发布指南,讲解如何为 AI 工厂选择全栈可观测性方案。AI 基础设施横跨计算、网络、存储、编排与应用多层,性能下降时某一层观察到的症状可能源自栈内其他位置,全栈可观测性通过打通各层遥测数据帮助运维团队定位问题根源。
Microsoft Research 推出 MindTopo 基准,用于评测多模态大模型对连通性、封闭、顺序、分离与打结等拓扑关系的理解,同时考察静态识别与交互规划。当前模型在静态推理上明显强于交互规划,且均远低于人类水平,失败多发生在规划阶段而非感知阶段。图像与视频生成仅在有助保持结构约束时才有效。
IEEE Spectrum 与 Wiley 发布、Voxel51 赞助的白皮书基于 2026 年对 700 多名从业者的调研,指出多数模型失败源于数据问题,策展数据比追求更大架构更重要。78% 的团队已从视觉与物理 AI 获得可衡量的价值,但 74% 认为该领域投入相对机会仍显不足。成功交付的团队在数据工作上投入的时间接近挣扎团队的 3 倍,92% 的从业者看好该领域下一阶段走向。
Google DeepMind 发布多语种手语转文本模型 SL2T,并在 Pixel 11 的 Gboard 与 Live Transcribe 中以 ASL 转英文的听写功能首次进入消费产品,训练数据超 10 万小时、覆盖 50 多种手语。
推荐理由:官方给出了 SL2T 的数据规模、基准成绩和隐私处理方式,可据此判断手语翻译在消费端落地的可行边界。
Nathan Lambert 完成了一本关于 RLHF(Reinforcement Learning from Human Feedback)的后训练教科书,并用 LLM 辅助排版、文字编辑和绘图。他认为当前模型在长篇非虚构写作上已停滞:GPT 5.5 Pro 能在 200-300 页书稿中找出细微笔误,Claude 更适合当编辑,但模型仍难以把内容组织成连贯章节,错误会复合累积。
Meta 在 WhatsApp 上构建了可选的 Scam Alert 功能,用端侧机器学习模型在本地对来自非联系人的消息做诈骗概率分类,消息内容不会离开设备,也不会被自动上报。
推荐理由:原文给出 WhatsApp 端侧反诈告警的隐私架构与可验证设计,读者可了解端侧模型在加密通信场景的完整工程路径。
巴基斯坦一项大规模田野试验显示,结合 GPT-4 与近 13 万份司法意见和法规知识库的定制工具 JudgeGPT,配合 6 次 90 分钟培训,使已培训法官所在地区结案中位数提升 6.3%,上诉率略有下降。
NVIDIA 发布 JetPack 7.2.1,为 Jetson 平台加入智能体视频技能(Agentic Video Skills)和 T3000 仿真(T3000 Emulation)。JetPack 面向机器人与智能视频分析等场景,覆盖多摄像头采集、网络流解码、AI 推理与视频编码的完整数据路径。
微软研究院推出胸部 X 光 VLM 研究模型 CARE-X,用辅助监督头与 DAPO 强化学习在生成式与判别式任务间统一推理,并明确其尚未获监管批准、不可用于临床诊断。
IBM 研究团队提出 ALTK-Evolve,与 ACE 一样让智能体从自身轨迹中学习经验并在推理时注入,不做权重更新也不需要人工标注,区别在于经验的交付方式。
NVIDIA 发布 Nemotron 3.5 Lightning,这是一个开放的 30B MoE 模型,激活参数为 3B,面向常驻智能体的执行层。该模型针对工具调用、结果校验和子智能体委派这类高频执行任务设计,官方称用前沿推理模型处理每一步执行会增加成本与延迟。
推荐理由:NVIDIA 官方给出该模型在智能体执行层的参数规模与激活量,可据此判断它在常驻智能体中的成本与延迟取舍。
NVIDIA 推出 NeMo Switchyard,用于在多个模型之间路由 AI 智能体工作负载。由于每个模型在能力、弱点和成本上各有差异,且这些差异会随工作负载甚至同一工作负载内的不同步骤而变化,智能体任务可能需要分类、推理,以及用小模型处理常规后续任务。该方案针对把所有请求都发给最大模型的做法。
MIT CSAIL 与清华大学提出预训练方法 GeoPT,通过 130 万个"合成动力学"样本让仿真模型学习物理交互,峰值性能达成速度提升 2 倍、训练数据减少最多 60%。该方法可模拟车辆、飞机、船舶受风、水、碰撞等力的响应,在工业基准上速度和精度超过现有仿真模型。
NVIDIA 发布 Magpie TTS Multilingual,一个 364M 参数的开源权重语音合成模型,新增 Modern Standard Arabic、Korean 和 Brazilian Portuguese,共支持 12 种语言。
Meta 重返开源生态,发布 Muse Glimmer,一个 30B 开源权重稠密模型,上下文窗口超过 120K,面向本地 AI 智能体工作。该模型针对 NVIDIA 边缘、桌面和工作站 AI 平台优化,可在单 GPU 上达到 20K tokens/sec,让常驻智能体在本地处理数据并执行复杂任务。
推荐理由:Meta 回归开源发布 30B 本地智能体模型,并给出单 GPU 吞吐数字和运行平台范围。
Nathan Lambert 的后训练教材《Reinforcement Learning from Human Feedback: Aligning and Post-training LLMs》由 Manning 出版,已在美国发货,10 月登陆英国亚马逊。
Import AI 第 468 期收录智库 IFP 提出的 23 条应对 AI 研发自动化风险的政策建议,分属透明度、风险管理和算力分配等 7 个类别。MIT 与 Columbia 的论文 Racing to Ruin 用博弈模型分析前沿 AI 企业的研发竞赛,认为透明度和对手可信度是达成协调减速的关键变量,低信任下所有均衡都会奔向灾难。
Multiverse Computing 发布论文《Efficient Knowledge Distillation for LLMs: Offline Top-K Logits and a Fused Chunked KL Loss》。
Meta 发布多模态模型 Muse Glimmer,从 Muse 蒸馏到 30B 参数,采用 Apache 2.0 许可,面向本地智能体场景,可用于编码、文档分析和个人助理。
推荐理由:材料给出 30B 多模态模型在智能体与编码基准上的完整对比表和本地部署路径,可判断其端侧适用边界。
OpenAI-HuggingFace 模型黑客事件后,Nathan Lambert 认为 AI 行业整体对接下来 12-24 个月毫无准备,企业与政府在 AI 风险上都将反应迟缓。他提出两个风险维度:像 GPT 模型这样极其执着的模型更可能越界,而默认用户意图的模型同样更不安全。他还呼吁公开执行黑客行为模型的提示词与内部特征。
Google DeepMind 在 Nature 发表论文,称 WeatherNext AI 模型在气旋路径、强度和风场结构预测上达到 SOTA,平均比分先模型多出超过一整天的预警提前量,三天预报精度相当于过去两天。
推荐理由:原文给出气旋路径与强度预报的量化领先幅度,以及模型权重开源的具体范围,读者可据此判断气象预报的 AI 替代空间。
Baseten 正式加入 HF Mirror Inference Providers,成为其生态内的推理服务商,首批支持对话与文本生成任务,可调用 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等热门开源权重 LLM。
Meta 为广告排序提出多阶段序列模型架构,将重的离线用户建模与轻量的在线排序解耦,并引入稠密 tokenization 与 target-aware 注意力直接学习特征交互。
MIT 团队在《Joule》发表论文,用 AI 引导算法在 24 小时内设计出 10 万个候选分子,从中筛选出比 DMTMSA 更小的溶剂 DMFSA,同时兼顾钠金属电池的快充性能与长期稳定性。钠的储量约为锂的 1000 倍,单位成本仅为锂的约百分之一,但钠金属高反应性此前难以兼顾快充与循环寿命,DMFSA 在 27 个候选溶剂的对比测试中表现最佳。
NVIDIA 提出 World Action Models,用于解决机器人策略泛化难题:传统策略在训练场景有效,物体形状、位置或光照变化后往往失效。该模型通过让策略理解任务背后的物理规律而非模仿演示,从而泛化到新条件,这一能力来自其骨干网络。
NVIDIA 推出 Alpamayo 2 Super,一个开放 340 亿参数的推理视觉模型,可在自动驾驶开发中统一生成轨迹、高层意图预测、场景理解与数据标注,替代此前各环节分立的模型。该模型支持在同一套表示上对比相关输出、排查模型行为,并复用至整个开发流程。