跳到正文

#数据/训练

今日 1 条
8月11日周二
8月10日周一
8月6日周四
  1. Google DeepMind77

    Google DeepMind 开源 WeatherNext 气旋预报模型,预警提前一天

    Google DeepMind 在 Nature 发表论文,称 WeatherNext AI 模型在气旋路径、强度和风场结构预测上达到 SOTA,平均比分先模型多出超过一整天的预警提前量,三天预报精度相当于过去两天。

    推荐理由:原文给出气旋路径与强度预报的量化领先幅度,以及模型权重开源的具体范围,读者可据此判断气象预报的 AI 替代空间。

8月5日周三
  1. MIT News · AI29

    MIT 团队用 AI 筛选溶剂,突破钠金属电池快充与稳定性难题

    MIT 团队在《Joule》发表论文,用 AI 引导算法在 24 小时内设计出 10 万个候选分子,从中筛选出比 DMTMSA 更小的溶剂 DMFSA,同时兼顾钠金属电池的快充性能与长期稳定性。钠的储量约为锂的 1000 倍,单位成本仅为锂的约百分之一,但钠金属高反应性此前难以兼顾快充与循环寿命,DMFSA 在 27 个候选溶剂的对比测试中表现最佳。

8月4日周二
  1. NVIDIA Developer Blog35

    NVIDIA Alpamayo 2 Super:用开放 340 亿参数推理视觉模型生成轨迹、推理链与自动标注

    NVIDIA 推出 Alpamayo 2 Super,一个开放 340 亿参数的推理视觉模型,可在自动驾驶开发中统一生成轨迹、高层意图预测、场景理解与数据标注,替代此前各环节分立的模型。该模型支持在同一套表示上对比相关输出、排查模型行为,并复用至整个开发流程。

  2. NVIDIA Developer Blog22

    NVIDIA Vera Storage 基准测试:为 AI 原生存储带来更快的加密、压缩、完整性校验与恢复

    NVIDIA 公布 Vera Storage 基准测试结果,针对智能体 AI 工作流中的加密、压缩、完整性校验与恢复性能进行评测。该存储需持续支撑企业知识检索、持久内存访问和 KV cache 复用等操作,每个智能体步骤可能触发多次存储操作并在流程中重复。

7月31日周五
7月29日周三
  1. NVIDIA Developer Blog27

    NVIDIA 用 GPU 原生医学物理仿真开发医疗机器人

    NVIDIA 提出以 GPU 原生医学物理仿真开发医疗机器人,应对医疗机器人无法像自动驾驶或工业机器人那样依赖互联网规模数据采集和无限真实世界实验的问题。该领域每次演示都需要专用设备、临床专业知识和患者或实验室环境,由此带来数据缺口等三大挑战,仿真成为训练现代机器人策略的途径。

7月27日周一
  1. NVIDIA Developer Blog12

    NVIDIA 谈材料工程与制造如何推进半导体创新

    随着 AI 负载增长,算力需求激增正推动半导体行业追求前所未有的性能目标,即便是小幅延期也会在快速迭代的 AI 硬件周期中造成巨大财务影响。同时,行业正从芯片级优化转向系统级工程,散热与功耗挑战随之叠加。NVIDIA 认为应对这些需求需要在材料工程与制造环节取得突破。

7月26日周日
  1. Berkeley AI Research43

    伯克利提出 ABBEL:用信念状态监督 LLM 长程交互中的上下文摘要

    伯克利 AI 研究提出 ABBEL 框架,将 LLM 的摘要以自然语言"信念状态"形式隔离并监督其信息内容,通过类自编码器的信念评分奖励能重建最新观测的摘要。在协作编程基准 CollabBench 上,ABBEL-rec-BG 把与全上下文模型的性能差距缩小约 50%,训练步数从 100 降至 50,峰值上下文 token 数也低于全上下文设置。

7月25日周六
7月24日周五
7月23日周四
  1. MIT News · AI28

    MIT 荣休教授 Dimitri Bertsekas 逝世,享年 83 岁

    MIT 电子工程与计算机科学系荣休教授、LIDS 首席研究员 Dimitri Bertsekas 于 6 月 3 日在马萨诸塞州 Belmont 家中去世,享年 83 岁。他的研究横跨优化、控制、大规模计算、强化学习与人工智能,并撰写或合著逾 20 本高影响力著作,其中与 John Tsitsiklis 合著的神经动态规划一书预先勾勒出后来强化学习的诸多核心思想。

7月22日周三
7月20日周一
7月16日周四
7月15日周三
7月7日周二
  1. Berkeley AI Research30

    Intelligence is Free, Now What? 智能体时代的数据系统:为智能体、由智能体

    UC Berkeley 团队提出近零推理成本将带来三类数据系统挑战:为智能体(Data Systems For Agents)、由智能体运行(Of Agents)、由智能体合成(By Agents)。文中举例指出,GPT-4 级能力在 2023 年初约 $30/百万 token,如今已降至 1 美元以下,部分厂商低于 $0.10,推理价格年降幅在 9 倍到 900 倍之间,中位数约 50 倍。

  2. Hugging Face Blog62

    SkyPilot 与 Hugging Face 打通:用 hf:// 挂载实现零出站存储

    Hugging Face 与 SkyPilot 联合推出 hf:// 挂载能力,可将 Hugging Face Bucket 或模型、数据集仓库挂载进 SkyPilot 任务,在 20 多个云、Kubernetes、Slurm 和本地环境中运行 GPU 作业。

    推荐理由:原文给出了 hf:// 挂载方式和跨云零出站读取的实测吞吐数据,读者可据此判断多云端 GPU 训练的存储成本变化。

  3. Hugging Face Blog71

    LeRobot v0.6.0 发布:世界模型策略、奖励模型 API 与六个仿真基准

    LeRobot 发布 v0.6.0,围绕机器人学习闭环引入世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新一批 VLA(GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT)以及统一奖励模型 API(Robometer、TOPReward)。

    推荐理由:原文给出世界模型策略、奖励模型 API 与六个仿真基准的完整清单,读者可据此判断机器人学习闭环的现有工具面。

7月6日周一
  1. Hugging Face Blog22

    PRX 第四部分:我们的数据策略

    Hugging Face 发布 PRX 系列第四篇,详解其数据策略:从公开与内部数据集混合构建训练语料,用 VLM 重新生成图片长描述,并借助 Mosaic Streaming 与 Lance 完成流式训练和数据管理。PRX 将文本编码器换成 Qwen3-VL,改为训练时实时计算文本 latent,仅带来约 3–4% 吞吐损失。图片统一以 JPEG 质量 92 编码,实测首次重编码几乎无感知损失。

6月30日周二
6月25日周四
6月19日周五
  1. Hugging Face Blog41

    MosaicLeaks:你的深度研究智能体能守住秘密吗?

    Hugging Face 博客发布 MosaicLeaks 基准,用 1001 条交错公私信息的多跳研究链检验深度研究智能体的隐私泄漏,并区分意图、答案、全信息三类泄漏。其提出的隐私感知训练方法 PA-DR 将严格链成功率从 48.7% 提升到 58.7%,同时把答案/全信息泄漏率从 34.0% 降到 9.9%。测试显示仅按任务表现训练会加剧泄漏。

6月18日周四
6月11日周四
6月8日周一
  1. Google DeepMind65

    Google DeepMind 公布塞拉利昂 Guided Learning 预注册试验结果

    Google DeepMind 发布在塞拉利昂开展的预注册对照试验结果,使用 Guided Learning 的学生数学成绩比对照组提高 0.258 个标准差,约相当于八周内取得 1.2 至 1.7 年的常规学习进步;教师将 Gemini 用于约一半课时目标 12 小时的班级增益更高,约 1.8 至 2.5 年。

    推荐理由:Google DeepMind 在塞拉利昂的预注册 RCT 显示 Guided Learning 带来约 1.2 至 1.7 年数学学习增益,并公开了实现方法。

6月3日周三
  1. Hugging Face Blog32

    超越聊天机器人的直接偏好优化:用模型自身失败样本的拒绝对降低 OCR 文本退化

    DharmaOCR 团队将直接偏好优化(DPO)用于结构化 OCR 而非聊天对齐,用模型自身失败输出构建拒绝对,在所有测试模型家族中均降低了文本退化,平均降幅 59.4%,最高 87.6%(Nanonets-OCR2–3B 从 1.61% 降至 0.20%)。监督微调(SFT)虽能降低多数模型的退化率,但很少达到生产可接受水平,因为其目标并不显式惩罚重复循环。

6月1日周一
  1. Hugging Face Blog32

    超越 LLM:企业级 AI 规模化落地为何取决于 Agent 逻辑

    企业 AI 试点普遍失败,症结在于智能体缺乏引导逻辑。IBM 用 Agent 逻辑(知识图谱、程序分析库等)在智能体层缩小上下文,测试显示:watsonx Code Assistant for Z 在百万行代码级遗留系统上保持略优理解性能,token 消耗降低约 30 倍;Aster 在 75+ Java 应用中使行、分支、方法覆盖率提升 20%-45%,token 消耗最多降低 15 倍。

5月27日周三
  1. Hugging Face Blog65

    Hugging Face 在 TRL 中实现 Delta Weight Sync,用 Hub Bucket 同步万亿参数权重

    Hugging Face 在 TRL 中提交 PR,用增量权重同步替代异步强化学习中的全量权重传输:两次 RL 优化步之间约 99% 的 bf16 权重字节完全一致,只把变化的元素编码成稀疏 safetensors 文件上传到 HF Bucket,再让 vLLM 拉取。

    推荐理由:Hugging Face 把异步强化学习的权重同步从全量广播改成稀疏增量,并给出可下载运行的实现,读者可以据此判断跨机房训练的门槛变化。