Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 发布 Gemini 4 Argon，面向开发者、企业、科研人员和消费者开放，首发价每百万 input token 2 美元、output token 10 美元，缓存 input 降价 95%。
推荐理由：官方给出 Argon 的定价、1M token 窗口和多项落地案例，读者可据此判断其在长程编码与科研任务上的定位。
#推理
#推理
今日 1 条Google DeepMind精选AI 评分8787
AWS Machine Learning BlogAI 评分3636 Amazon SageMaker AI 上的 MoE 内核工程实践
针对 MoE 模型推理，AWS 团队通过 Swap-AB 转置让专家维度 N=8192 进入 WGMMA 首个操作数位置，在 H200 上取得 2–4% 端到端输出吞吐提升，该优化已合入 vLLM 0.24.0 及更高版本。
AWS Machine Learning BlogAI 评分3838 在泰国、马来西亚、新加坡、印尼和中国台湾通过全球跨区域推理在 Amazon Bedrock 上调用 OpenAI GPT 模型
Amazon Bedrock 面向泰国、马来西亚、新加坡、印尼和中国台湾的五个 AWS 区域提供全球跨区域推理，可调用 OpenAI 的 GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra，其中 GPT-6 Astra 从亚太（新加坡）区域提供。
Meta EngineeringAI 评分2424 Meta 如何把闲置推理算力变成更好的广告推荐
Meta 构建了一套系统，把 fleet 中分散闲置的推理算力聚合成共享的机会算力池，用于增强广告推荐，无需额外采购容量。系统通过 Rank More Ads（RMA，增加排序阶段评估的候选广告数量）和 Serve Better Models（SBM，提高请求路由到更强模型的比例）两个弹性杠杆，在保障基线性能的前提下扩展可选工作负载。
NVIDIA Developer BlogAI 评分3131 ReplaySSM：重新思考状态存储，加速混合模型解码
NVIDIA 提出 ReplaySSM，重新思考混合模型的解码状态存储方式。NVIDIA Nemotron 3、Qwen3.5 至 Qwen3.8、Kimi-K3、GLM-5.3-Flash 等混合模型将 SSM 层与少量注意力层交错，SSM 层用固定大小状态替代随序列增长的 KV cache 以实现快速解码。
AWS Machine Learning BlogAI 评分2929 如何用 Ray LLM Deep Learning Containers 在 Amazon EKS 上运行多节点推理负载
AWS 发布 Ray LLM Deep Learning Containers，支持在 Amazon EKS 上跨两个 GPU 节点部署单个 LLM，将 prefill 与 decode 分离运行并统一在一个 OpenAI 兼容端点后。
AWS Machine Learning BlogAI 评分2626 在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型
在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型，可让应用从固定选项集中直接输出概率分数，而不必生成文本答案。AWS 的 llama.cpp DLC 支持通过 OpenAI 兼容的 Chat Completions 接口调用，扩展方案 SemIf 则返回 option_ids、probabilities 与 raw option_logits。
Hugging Face Blog精选AI 评分6464 Nemotron 微调出战 IOI 和 IMO：同一模型家族拿下两个金牌级成绩
英伟达团队从 Nemotron 3 出发，用监督微调、强化学习和反馈驱动的推理循环，让 Nemotron-3-Ultra-CC 在 IOI 2026 拿到 535.4/600，超过 361.12 的金牌线；通用版 Nemotron 3 Ultra 配合 SFT、RL 检查点在生成-验证-修正系统中于 IMO 2026 得到 30/42，超过 29 的官方金牌线。
推荐理由：原文公开了从 Nemotron 3 到 IOI、IMO 金牌级系统的完整微调配方与数据规模，可据此评估领域特化模型的可复现路径。
OpenAI NewsAI 评分5757 OpenAI 公布前沿模型在数学开放问题上的进展
OpenAI 发布内部前沿模型在数学开放问题上的新结果，并在 GitHub 上公开 Lean 证明形式化与研究细节。材料仅提供摘要，未给出具体问题、模型名称或结果数据。
MIT News · AIAI 评分1818 MIT 教授 Cathy Wu 用强化学习破解交通系统难题
MIT 副教授 Cathy Wu 的研究聚焦用机器学习与强化学习（RL）改进交通等复杂系统。她的团队开发出一种算法挑选适合训练的问题，将训练效率提升最多 30 倍——原本需要 100 个训练模型的场景如今只需 3 个；其生态驾驶研究显示智能控制车速可减少 11% 至 22% 的车辆排放。
AWS Machine Learning BlogAI 评分4343 在 Amazon SageMaker AI 上用多轮 RL 微调搜索智能体
在 Amazon SageMaker AI 上用多轮强化学习（MTRL）微调 Qwen3.6-27B 搜索智能体，训练数据来自 FRAMES、BRIGHT 和含 50 万+合成企业文档的 Enterprise RAG 数据集。
OpenAI NewsAI 评分4444 GPT-6 家族模型选型指南
OpenAI 发布 GPT-6 家族模型指南，面向初创团队讲解如何选择 GPT-6 模型、调节推理强度、优化提示词与技能、协调工具调用，并为生产环境准备工作流。
NVIDIA Blog精选AI 评分7272 NVIDIA GPU 加速 OpenAI GPT-6 Astra Ultrafast
OpenAI 的 GPT-6 Astra Ultrafast 在 NVIDIA Blackwell GPU 上运行，现已面向 OpenAI API 以及符合条件的 ChatGPT Work 和 Codex 用户开放。
推荐理由：原文给出了 Ultrafast 相对标准模式的加速倍数与适用场景，读者可据此判断它在编码智能体工作流中的实际提速空间。
NVIDIA Developer BlogAI 评分2020 用 NVIDIA Dynamo-Triton 部署 HSTU 生成式推荐系统
面向大规模个性化场景的生成式推荐系统（GR）把推荐重构为对用户行为的序列建模，用户的交互、上下文、候选物品和动作都被当作高基数事件流中的 token。NVIDIA 介绍如何用 Dynamo-Triton 部署 HSTU 生成式推荐模型。
MIT News · AIAI 评分4343 MIT 等团队开发 Ataraxos，在 Stratego 上击败世界顶尖人类选手
MIT、卡内基梅隆、NYU 和斯坦福的研究者开发出 AI 系统 Ataraxos，在隐藏信息的棋盘战争游戏 Stratego 中以 15-1-4 击败世界最强人类选手，并在世界锦标赛顶级选手中取得 39-2 战绩，此前无 AI 系统做到。
Hugging Face BlogAI 评分3636 Liquid AI 发布 LFM2.5-VL-DSpark 草稿模型，视觉语言模型推理最高提速 3.13 倍
Liquid AI 为视觉语言模型 LFM2.5-VL-3B 发布实验性 DSpark 草稿模型 LFM2.5-VL-DSpark，通过投机解码在不改变输出质量的前提下实现最高 3.13 倍设备端解码加速、H100 上 2.66 倍，端到端分别最高 2.62 倍和 2.27 倍。
NVIDIA BlogAI 评分4848 NVIDIA Vera Rubin NVL72 首秀 MLPerf Inference v6.1，性能领先
NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1，在 Qwen3-VL 上吞吐量最高达 GB300 NVL72 的 3.7 倍，DeepSeek-R1 上最高 2.5 倍。
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemini 3.8 Live 与 3.8 Live Extended Thinking
Google DeepMind 发布两款实时语音对话模型 Gemini 3.8 Live 与 Gemini 3.8 Live Extended Thinking，前者主打规模化与成本效率，后者面向高复杂度任务，支持边推理边说话。
推荐理由：官方给出两款语音模型的基准分数、价格定位与开放渠道，可据此判断语音智能体的选型与部署时机。
NVIDIA Developer BlogAI 评分1818 NVIDIA Groq 3 LPX 确定性执行如何驱动 NVIDIA Vera Rubin 上的高能效高交互推理
NVIDIA 详解 Groq 3 LPX 的确定性执行机制，说明其如何在 NVIDIA Vera Rubin 平台上实现高交互推理的能效提升。文章指出，AI 工厂的核心约束是功耗，因此每瓦性能而非原始吞吐量才是衡量 AI 平台价值的标准。平台各组件需在有限功耗预算内最大化输出。
Hugging Face BlogAI 评分4242 TRL v1.14 用 Storage Bucket 替代 NCCL 实现 LoRA 异步 GRPO 训练
TRL v1.14 的 AsyncGRPOTrainer 现已支持只训练并同步 LoRA adapter 到 vLLM，训练与推理可跑在各自独立的 HF Jobs 上。
NVIDIA Developer BlogAI 评分3030 前沿推理走向边缘：如何在 NVIDIA Jetson 上部署并优化模型
NVIDIA 介绍如何在 Jetson 边缘硬件上部署并优化前沿推理与智能体模型。此前具备多步推理能力的模型体积过大，无法在边缘本地运行，开发者只能把推理绕经数据中心，带来网络依赖、成本上升和本可留在设备上的数据外泄风险。NVIDIA 表示这一限制正在被解除。
Hugging Face BlogAI 评分3232 用 100 步 GRPO 微调 LFM2.5-350M，提升结构化输出合规性
一份公开教程用 TRL 的 GRPO 对 LFM2.5-350M 做微调，仅约 500 条样本、100 个训练步，就把 IFStruct 基准成绩从 22.6% 提升到 29.7%。
MIT News · AIAI 评分1717 从 MIT 到 IBM：三位研究者如何加速 AI 与量子部署
三位曾任职 MIT-IBM Computing Research Lab 的研究者现于 IBM 推进 AI 与量子研究：张伟宏（Zhang-Wei Hong）研究面向智能体的测试时训练与企业级智能体框架，Irene Ko 开发 vLLM Hook 插件，通过访问模型隐状态分析提示词注入与幻觉风险；Srinivasan Arunachalam 则从学习理论出发寻找量子加速算法。
NVIDIA Developer BlogAI 评分3030 NVIDIA 如何用推测解码协同设计 AI 模型以加速 LLM 推理
NVIDIA 在 AI 模型协同设计系列第三篇中，探讨如何用推测解码在保持精度的前提下加速 LLM 推理。文章给出五条指南，用于在帕累托前沿上选择 draft 长度与 draft 机制。
MIT News · AIAI 评分4343 MIT 与 Motional 提出 CW-Net，帮人类预测自动驾驶汽车何时会犯错
MIT 与自动驾驶公司 Motional 提出 Concept-Wrapper Network（CW-Net），可将自动驾驶深度学习规划器的内部推理翻译为“接近停驻车辆”“靠近骑行者”等可理解概念。该模块在 1.3 亿个自动驾驶场景样本上训练，不改动原模型驾驶性能，实测帮助安全员更准确预测车辆行为。研究发表于 Nature。
Hugging Face BlogAI 评分3838 Hugging Face 推出 BenchMIRT：审计 LLM 基准到底测了什么
Hugging Face 发布 BenchMIRT，一种在单条题目层面审计 LLM 基准的方法，基于多维 IRT 从 100 个 LLM、16 个基准、超 34K 道题的评测结果中自动分离出安全与通用推理两个维度。
NVIDIA Developer BlogAI 评分2424 如何为 AI 推理和 TCO 合理配置 GPU 而不超支
NVIDIA 发文讨论企业如何为 AI 推理负载合理配置 GPU 并优化总拥有成本（TCO）。文章指出，面对延迟目标、模型选择、流量模式和预算约束的复杂组合，组织在 GPU 选型上容易迷失方向。
NVIDIA Developer BlogAI 评分2727 NVIDIA Dynamo 推出影子引擎恢复，LLM 推理故障可秒级恢复
NVIDIA Dynamo 推出预览功能影子引擎恢复，让 LLM 推理引擎进程故障后无需冷重启即可在数秒内恢复容量。传统冷重启需从存储加载权重到 HBM、编译 kernel 并捕获 NVIDIA CUDA graphs，大模型初始化耗时数分钟。
Hugging Face Blog精选AI 评分6464 IBM 发布 Granite 4.2 推理模型家族：3B、8B、30B 三档
IBM Granite 团队发布 Granite 4.2，这是其首个稠密、decoder-only 的推理模型家族，包含 3B、8B、30B 三个规模，全部采用 Apache 2.0 许可。
推荐理由：原文完整披露 Granite 4.2 的三档规模、五阶段预训练与分阶段 RL 流程，可对照理解推理模型的后训练工程。
Hugging Face BlogAI 评分5353 Multiverse Computing 提出 QAH：4-bit 压缩模型在 9 项基准中 7 项超过其全精度版本
Multiverse Computing 发布论文《Quantization-Aware Healing: A Practical Recipe for Recovering Compressed, 4-Bit LLMs》，提出量化感知修复（QAH）：不再从恢复后的 bfloat16 checkpoint 蒸馏，而是直接从压缩前的原始模型蒸馏，教师与学生架构和精度均可不同。
NVIDIA Developer BlogAI 评分3434 NVIDIA Vera Rubin 与 Blackwell 为智能体 AI 能效比树立新标准
NVIDIA Vera Rubin 与 Blackwell 为智能体 AI 的每瓦性能树立新标准。OpenRouter 的 State of AI 报告基于 100 万亿 token 的真实使用数据发现，单次请求的平均提示词 token 量增长了约四倍，反映 AI 智能体已从单轮交互扩展为多步工作流。
NVIDIA Developer BlogAI 评分3838 NVIDIA Groq 3 LPX 如何在 NVIDIA Vera Rubin 上实现长上下文超快交互
NVIDIA Groq 3 LPX 是面向 NVIDIA Vera Rubin 平台的交互式 AI 推理加速器。平台核心 NVIDIA Vera Rubin NVL72 覆盖从小模型到大型模型、开源与闭源的最广泛 AI 工作负载，兼顾高吞吐与交互性。Groq 3 LPX 与 Vera Rubin NVL72 搭配，进一步扩展该平台的能力。
Hugging Face BlogAI 评分4646 LFM2.5-DSpark 草稿模型发布：推理最高提速 3.2 倍
LiquidAI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点，通过投机解码在不改变输出质量的前提下实现最高 3.18 倍 GPU 吞吐提升和 2.87 倍端侧提速。
NVIDIA Developer BlogAI 评分2929 生成式推荐系统如何在大规模场景下重新定义 RecSys
NVIDIA 指出，LLM 的兴起正推动推荐系统从传统基于嵌入向量相似度的目标转向生成式目标，即根据用户历史序列预测大目录中的下一个动作或物品。推荐系统是消费互联网中最普遍的机器学习问题之一，但大规模训练与部署一直极为困难。
Microsoft ResearchAI 评分4343 MindTopo：新基准揭示多模态大模型的空间拓扑推理短板
Microsoft Research 推出 MindTopo 基准，用于评测多模态大模型对连通性、封闭、顺序、分离与打结等拓扑关系的理解，同时考察静态识别与交互规划。当前模型在静态推理上明显强于交互规划，且均远低于人类水平，失败多发生在规划阶段而非感知阶段。图像与视频生成仅在有助保持结构约束时才有效。
Microsoft ResearchAI 评分4646 微软研究院发布 CARE-X：面向临床可用的放射学 VLM，融合辅助监督、奖励对齐学习与工具增强测量
微软研究院推出胸部 X 光 VLM 研究模型 CARE-X，用辅助监督头与 DAPO 强化学习在生成式与判别式任务间统一推理，并明确其尚未获监管批准、不可用于临床诊断。
NVIDIA Developer BlogAI 评分3535 NVIDIA Alpamayo 2 Super：用开放 340 亿参数推理视觉模型生成轨迹、推理链与自动标注
NVIDIA 推出 Alpamayo 2 Super，一个开放 340 亿参数的推理视觉模型，可在自动驾驶开发中统一生成轨迹、高层意图预测、场景理解与数据标注，替代此前各环节分立的模型。该模型支持在同一套表示上对比相关输出、排查模型行为，并复用至整个开发流程。
NVIDIA Developer BlogAI 评分2828 NVIDIA 如何为快速交互式长上下文推理协同设计 AI 模型注意力
随着智能体与长上下文工作负载普及，注意力机制在推理耗时中占比越来越大，成为主导成本。NVIDIA 提出围绕 GPU 执行方式设计模型架构，即 AI 模型协同设计，以优化长上下文推理性能。
Berkeley AI Research精选AI 评分6060 从 CUDA 到 MLX：K-Search 如何把内核优化经验带到 Apple Silicon
Berkeley Sky Lab 与 IBM Research 将 K-Search 这一进化式内核搜索框架扩展到 MLX，用结构化的 CUDA-to-MLX 翻译层，把已有 CUDA 内核当作知识库迁移到 Apple Silicon。
推荐理由：这篇工作给出把 CUDA 内核经验迁移到 Apple Silicon 的具体做法，读者可据此判断跨平台内核优化的可行路径。
Berkeley AI ResearchAI 评分4343 伯克利提出 ABBEL：用信念状态监督 LLM 长程交互中的上下文摘要
伯克利 AI 研究提出 ABBEL 框架，将 LLM 的摘要以自然语言"信念状态"形式隔离并监督其信息内容，通过类自编码器的信念评分奖励能重建最新观测的摘要。在协作编程基准 CollabBench 上，ABBEL-rec-BG 把与全上下文模型的性能差距缩小约 50%，训练步数从 100 降至 50，峰值上下文 token 数也低于全上下文设置。