跳到正文

#Hugging Face

今日 1 条
7月15日周三
7月10日周五
7月8日周三
  1. Hugging Face Blog77

    vLLM 的 transformers 建模后端提速至原生实现水平

    Hugging Face 宣布 vLLM 的 transformers 建模后端现已达到甚至超过 vLLM 手写原生实现的吞吐量,覆盖 Qwen3-4B(单卡)、Qwen3-32B(张量并行)、Qwen3-235B-A22B-FP8(数据加专家并行,8×H100)三种规模。

    推荐理由:官方给出三个 Qwen3 模型的实测对比,读者可了解无需移植即可获得原生级 vLLM 推理速度的具体路径。

7月7日周二
  1. Hugging Face Blog62

    SkyPilot 与 Hugging Face 打通:用 hf:// 挂载实现零出站存储

    Hugging Face 与 SkyPilot 联合推出 hf:// 挂载能力,可将 Hugging Face Bucket 或模型、数据集仓库挂载进 SkyPilot 任务,在 20 多个云、Kubernetes、Slurm 和本地环境中运行 GPU 作业。

    推荐理由:原文给出了 hf:// 挂载方式和跨云零出站读取的实测吞吐数据,读者可据此判断多云端 GPU 训练的存储成本变化。

  2. Hugging Face Blog71

    LeRobot v0.6.0 发布:世界模型策略、奖励模型 API 与六个仿真基准

    LeRobot 发布 v0.6.0,围绕机器人学习闭环引入世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新一批 VLA(GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT)以及统一奖励模型 API(Robometer、TOPReward)。

    推荐理由:原文给出世界模型策略、奖励模型 API 与六个仿真基准的完整清单,读者可据此判断机器人学习闭环的现有工具面。

7月6日周一
7月1日周三
6月30日周二
6月26日周五
6月25日周四
6月24日周三
6月23日周二
6月22日周一
6月18日周四
  1. Hugging Face Blog50

    Hugging Face 用 transformers 打造智能体工具基准测试,开放模型自己跑

    Hugging Face 发布了一套面向工具的智能体基准测试框架,以 transformers 为案例,衡量智能体完成任务所耗的 token、成本与失败次数,而非只看最终答案。测试在 pi coding agent 上驱动开放模型,按模型 × 版本 × 任务展开并跑在 HF Jobs 上以保证硬件一致,结果存入 HF Bucket。

6月17日周三
  1. Hugging Face Blog63

    用 Strands Agents 和 LeRobot 从 Hugging Face Hub 走到机器人硬件

    AWS 开源的 Strands Robots SDK 将 LeRobot 相关的数据录制、策略推理和机器人抽象封装成 AgentTools,可组合成单个 Strands agent,把 Hub 上的数据集一路走到物理机器人。

    推荐理由:完整走通从 Hub 数据集到真机的一条 Agent 流水线,说明仿真与硬件数据共用同一格式后,训练脚本可以不加改动地互换使用。

  2. Hugging Face Blog82

    智谱发布 GLM-5.2:面向长程任务,1M 上下文与 MIT 开源

    智谱发布旗舰模型 GLM-5.2,主打长程任务,首次提供稳定的 1M token 上下文,并采用 MIT 开源许可且无地域限制。官方称其架构引入 IndexShare,每 4 层稀疏注意力共享同一 indexer,在 1M 上下文下把每 token FLOPs 降低 2.9×,MTP 层改进使投机解码接受长度最高提升 20%。

    推荐理由:官方给出 1M 上下文在长程编码任务上的实测栈位、架构改动与 MIT 开放权重,可据此判断开源模型的长任务能力边界。

6月11日周四
  1. Google DeepMind67

    Google DeepMind 发布 DiffusionGemma:文本扩散模型推理最高提速 4 倍

    Google DeepMind 发布实验性开源模型 DiffusionGemma,采用文本扩散方式一次性生成 256 个 token,在专用 GPU 上文本生成最高提速 4 倍,单张 NVIDIA H100 上超过 1000 tokens/秒,RTX 5090 上超过 700 tokens/秒。

    推荐理由:官方给出 4x 推理加速的实测数字与本地低并发场景边界,读者可据此判断它适合哪些交互式工作流。

6月9日周二
  1. Hugging Face Blog61

    作者如何让 Agent 串联两个 Hugging Face Space 搭建 3D 巴黎画廊

    作者让编程智能体调用两个 Hugging Face Space 搭建了一个展示巴黎地标的 3D 高斯泼溅画廊:ideogram4 负责由提示词生成图像,VAST-AI/TripoSplat 负责将单张图像重建成 .ply 格式的 3D 高斯泼溅。

    推荐理由:作者以一条可复现的智能体流水线,展示如何用 agents.md 串联两个 Space 完成图像与 3D 生成。

6月8日周一
  1. Hugging Face Blog61

    Hugging Face 旗下 OpenEnv 转为委员会治理并明确为智能体 RL 互操作层

    Hugging Face 宣布 OpenEnv 转为由 Meta-PyTorch、Reflection、Unsloth、Modal、Prime Intellect、Nvidia、Mercor、Fleet AI、Microsoft 等组成的委员会协调,项目地址移至 huggingface/OpenEnv。

    推荐理由:原文交代了 OpenEnv 转向委员会治理并明确自身为协议层而非奖励框架,读者可据此判断开放智能体 RL 的协作边界。

6月4日周四
  1. Hugging Face Blog66

    Hugging Face 把 hf CLI 改造成面向智能体的命令行工具并给出基准测试

    Hugging Face 重新设计官方命令行工具 hf CLI,使其同时服务人类用户和编码智能体,通过读取 CLAUDECODE、CODEX_SANDBOX、AI_AGENT 等环境变量自动切换到智能体模式:输出 TSV、保留完整 id 与 ISO 时间戳、不截断、无 ANSI 转义。

    推荐理由:原文给出 CLI 面向智能体重构的渲染、hint 与基准数据,读者可据此评估智能体调用 Hub 的 token 成本。

6月3日周三
  1. Hugging Face Blog32

    超越聊天机器人的直接偏好优化:用模型自身失败样本的拒绝对降低 OCR 文本退化

    DharmaOCR 团队将直接偏好优化(DPO)用于结构化 OCR 而非聊天对齐,用模型自身失败输出构建拒绝对,在所有测试模型家族中均降低了文本退化,平均降幅 59.4%,最高 87.6%(Nanonets-OCR2–3B 从 1.61% 降至 0.20%)。监督微调(SFT)虽能降低多数模型的退化率,但很少达到生产可接受水平,因为其目标并不显式惩罚重复循环。

6月2日周二
6月1日周一
  1. Hugging Face Blog44

    JetBrains 发布 Mellum2:12B 参数 MoE 模型,Apache 2.0 开源

    JetBrains 发布 Mellum2,一个从零训练、总参数 12B、每 token 仅激活 2.5B 的 MoE 模型,面向自然语言与代码任务,采用 Apache 2.0 许可证开源。官方称其推理速度比同规模模型快 2 倍以上,可用于路由、RAG、摘要、子智能体及私有化部署。模型已上线 Hugging Face,完整技术报告同步发布。

5月29日周五
5月27日周三
  1. Hugging Face Blog65

    Hugging Face 在 TRL 中实现 Delta Weight Sync,用 Hub Bucket 同步万亿参数权重

    Hugging Face 在 TRL 中提交 PR,用增量权重同步替代异步强化学习中的全量权重传输:两次 RL 优化步之间约 99% 的 bf16 权重字节完全一致,只把变化的元素编码成稀疏 safetensors 文件上传到 HF Bucket,再让 vLLM 拉取。

    推荐理由:Hugging Face 把异步强化学习的权重同步从全量广播改成稀疏增量,并给出可下载运行的实现,读者可以据此判断跨机房训练的门槛变化。

5月25日周一
5月20日周三