Hugging Face 将 Hub 存储从 Git LFS 迁至 Xet
Hugging Face 宣布把 Hub 存储后端从 Git LFS 迁移到 Xet,6 个月内已有 50 万个仓库、20 PB 数据迁入,超过 100 万用户在用。
Hugging Face 宣布把 Hub 存储后端从 Git LFS 迁移到 Xet,6 个月内已有 50 万个仓库、20 PB 数据迁入,超过 100 万用户在用。
Hugging Face 开发了 hf.co/mcp 的 MCP Server,让 AI 助手通过一个 URL 远程访问 Hub 与 Spaces 上数千个 AI 应用,并支持用户按需自定义工具。生产环境选择 MCP 的 Streamable HTTP 传输,采用无状态、Direct Response 配置;开源代码同时支持 STDIO、SSE 与 Streamable HTTP。
Hugging Face 发布博客介绍机器人异步推理,将动作预测与动作执行解耦,让机器人在 PolicyServer 计算下一段动作时继续执行当前动作队列,从而消除等待推理的空闲时间。
Hugging Face 与 AMD 合作,为 MI300X 编写开源优化内核,提升 Llama 3.1 405B 在 FP8 下用 VLLM 的推理性能。三个自定义内核——融合残差连接、RMS norm 与 FP8 转换,融合 SwiGLU 激活与 FP8 转换,以及 Skinny GEMM——带来显著加速,测量基于输入 1、输出 128 的解码场景。
Hugging Face 与 Pollen Robotics 联合发布开源机器人 Reachy Mini,Lite 版 399 美元、带计算与电池的 Compute 版 499 美元,预计约 90 天发货。
Hugging Face 发布 SmolLM3,一个 3B 全开源模型,训练于 11.2T tokens,支持英语、法语、西班牙语、德语、意大利语和葡萄牙语,上下文窗口达 128k。
推荐理由:Hugging Face 公开了 3B 模型的完整训练配方与数据配比,读者可了解小模型在长上下文和双模式推理上的工程路径。
SGLang 现已支持 Hugging Face transformers 作为后端,可直接运行任意 transformers 兼容模型,无需原生支持,通过设置 impl="transformers" 即可启用。
Hugging Face 发布教程,演示用 diffusers 库以 QLoRA 在单卡上微调 FLUX.1-dev,峰值显存约 9GB,可学习 Alphonse Mucha 艺术风格。
推荐理由:以 FLUX.1-dev 为例给出 QLoRA、8-bit 优化器、梯度检查点等组合,把微调峰值显存压到约 9GB。
Groq 正式加入 HF Mirror Hub 的 Inference Providers,为模型页面提供无服务器推理。Groq 支持 Meta Llama 4、Qwen QWQ-32B 等开源模型,其核心 LPU 专为 LLM 推理设计,延迟更低、吞吐更高。用户可在账户设置中配置 Groq API key 直连,或通过 HF 路由调用,PRO 用户每月获 $2 推理额度。
Hugging Face 推出 Kernel Hub,让 Python 库和应用直接从 Hub 加载预编译优化计算内核,用 `get_kernel("kernels-community/flash-attn")` 一行即可启用 FlashAttention,无需自行编译。
NVIDIA 发布 Isaac GR00T N1.5 后给出教程,演示如何用单台 LeRobot SO-101 机械臂的遥操作数据对模型做 post-training 微调。
Hugging Face 发布 ScreenSuite,称其为面向 GUI Agent 最全面的评测套件,整合 13 个基准,覆盖感知、Grounding、单步动作与多步智能体四类能力。
推荐理由:原文给出 13 个基准的构成与纯视觉评测设定,可据此了解 GUI Agent 评测如何统一与本地复现。
Hugging Face 的 nanoVLM 仓库从零实现了 KV Caching,使生成速度提升 38%。nanoVLM 是一个用纯 PyTorch 训练自定义视觉语言模型的精简代码库,KV Cache 在 Attention 块、语言模型层和生成循环三处启用,把逐步生成从全序列重算改为增量更新。文中的经验适用于所有自回归语言模型生成。
H Company 发布 Holo1 系列 Action VLM,包括 Holo1-3B 和 Holo1-7B,基于 Qwen2.5-VL 架构并兼容 transformers,同时在 Hugging Face 开源包含 1,639 个类人 UI 任务的 WebClick 多模态定位基准。
推荐理由:Holo1 开源了 3B 和 7B 两档 GUI 定位模型,并给出真实网页任务的成本与准确率数据,便于判断小模型的落地边界。
Hugging Face 发布 SmolVLA,一个 450M 参数、可在消费级硬件运行的开源视觉语言动作(VLA)模型,仅用 lerobot 标签下社区共享的开源数据集预训练,包含 487 个数据集约 1000 万帧。
推荐理由:450M 参数的开源 VLA 只用社区数据就超过更大模型,并给出可复现的训练与部署路径。
Hugging Face TRL 通过 PR #3394 支持 vLLM 的 external launcher,可在同一分布式进程组中让训练与推理共享同一批 GPU,需在 GRPOConfig 中设置 vllm_mode="colocate"。
Hugging Face 发布 Python 版 Tiny Agents,通过扩展 huggingface_hub 的 MCPClient 让智能体从 MCP 服务器拉取工具并传给 LLM,核心代码约 70 行。
推荐理由:官方教程给出 70 行搭 MCP 智能体的完整配置与代码路径,可直接照此复现。
Dell Enterprise Hub 发布新版本,提供 Meta Llama 4 Maverick、DeepSeek R1、Google Gemma 3 等模型的即用容器,针对 NVIDIA H100/H200、AMD MI300X、Intel Gaudi 3 的 Dell 服务器完成测试与优化,Llama 4 在 Meta 公开发布后 1 小时内即上线。
Falcon-H1 系列发布 6 个开源模型,覆盖 0.5B、1.5B、1.5B-Deep、3B、7B 和 34B,均含 base 与 instruct 版本,采用 Apache 2.0 宽松许可。
推荐理由:Falcon-H1 以混合注意力与 SSM 架构在 6 个尺寸上对标同量级 Transformer,可据此判断端侧与长上下文场景的取舍。
Hugging Face 博客详解 Diffusers 直接集成的多种量化后端,包括 bitsandbytes、GGUF、torchao、Quanto 和原生 FP8,并以 Flux-dev 演示。
Microsoft Build 大会上,Satya Nadella 宣布扩大与 Hugging Face 的合作,Azure AI Foundry 现已提供 1 万余个 Hugging Face 模型,可几次点击部署用于文本、音频和图像应用。
Hugging Face 的 Transformers 库正推动成为跨框架的模型定义中枢:模型一旦被 Transformers 支持,即可在 vLLM、SGLang、TGI 等推理引擎中作为后端使用,并与 llama.cpp、MLX 实现互操作。
Kaggle 推出与 Hugging Face 的集成,用户在 Hugging Face 模型页点击“Use this model”并选择 Kaggle,即可打开预填代码片段的 Kaggle Notebook 加载模型,反之也可从 Kaggle 点击“Code”跳转。
HF Mirror 在 Inference Endpoints 上推出新的 OpenAI Whisper 部署方案,基于 vLLM 实现,推理性能较此前版本最高提升 8 倍。
Hugging Face 发布博客回顾过去一年视觉语言模型(VLM)的关键变化:Qwen 2.5 Omni 采用 Thinker-Talker 架构,MiniCPM-o 2.6 以 8B 参数覆盖视觉、语音和语言;Moonshot AI 的 Kimi-VL-A3B-Thinking 用 16B 总参数、2.8B 激活参数的 MoE 解码器实现长链式推理。
Hugging Face 的 LeRobot 正推动机器人数据采集平民化,通过简化录制流程、打通上传至 HF Hub、降低硬件成本,让社区贡献数据集快速增长,目前以 So100 和 Koch 机械臂数据为主。团队将泛化视为数据问题,主张用开放多样的“机器人 ImageNet”替代学术实验室里结构单一的数据。
Qwen-3 的 Chat Template 比 Qwen-2.5 和 QwQ 更复杂:通过 enable_thinking 标志可将推理设为可选,设为 false 时模板插入空思考块,让模型跳过逐步推理,而 QwQ 等早期模型强制每轮生成思维链。
Gradio 发布教程,演示如何用几行 Python 把任意 Gradio 应用启动为 MCP server,让 LLM 以工具形式调用。只需在 demo.launch() 中设置 mcp_server=True,即可同时启动 Web 界面与 MCP server,并生成可粘贴到 Claude Desktop、Cursor、Cline 等 MCP Client 的配置。
Meta 发布 Llama Guard 4 和两个 Llama Prompt Guard 2 安全模型。
ServiceNow 开源实验性 RL 实现 PipelineRL,核心是在 RL 训练中做 inflight 权重更新:每次优化器更新后不停止推理就把新权重广播到推理服务器,从而在保持高推理吞吐的同时让数据接近 on-policy。
Hugging Face 发布 Tiny Agents 教程,演示如何用约 50 行 TypeScript 代码在推理客户端之上实现一个 MCP 驱动的智能体。
推荐理由:文章给出一个约 50 行的 MCP 智能体实现,读者可据此理解工具调用与 MCP 客户端如何拼装成完整智能体。
Gradio 官方撰文列出 17 个理由,说明它不只是 Python UI 库,而是同时提供 UI 与 API 的机器学习应用框架。
Hugging Face 与 Protect AI 合作半年,Guardian 已扫描 HF Hub 上 141 万个仓库中的 447 万个唯一模型版本,在 5.17 万个模型中识别出 35.2 万个不安全或可疑问题。
Hugging Face 宣布收购已成立 9 年的开源机器人公司 Pollen Robotics,这是其继 Gradio、XetHub 之后的第五次收购。公司同时开始售卖首款机器人 Reachy 2,这款开源且兼容 VR 的人形机器人面向研究、教育与具身 AI 实验,售价 7 万美元,可通过邮件订购,已在康奈尔、卡内基梅隆等实验室使用。
HF Mirror 与 Cloudflare 达成合作,FastRTC 开发者用一个 HF Mirror token 即可接入 Cloudflare 覆盖 335 个以上地点的全球 TURN 网络。
Hugging Face 与 MBZUAI 合作推出 Arabic-Leaderboards Space,将阿拉伯语 AI 评测集中到一处,目前上线 AraGen-03-25 和阿拉伯语指令遵循两个榜单。
Meta 发布 Llama 4 Maverick(约 400B 总参数、17B 激活)和 Llama 4 Scout(约 109B 总参数、17B 激活)两款原生多模态 MoE 模型,权重已上线 Hugging Face 的 meta-llama 组织,含 base 与 instruct 版本,需先接受 Llama 4 社区许可协议。
推荐理由:Meta 同日发布 Llama 4 Maverick 与 Scout 两款 MoE 多模态模型,并给出架构细节与 Hugging Face 侧集成方式。
Gradio 上线 5 年后月度开发者用户突破 100 万,Automatic1111、Oobabooga 的 Text Generation WebUI、Dall-E Mini、LLaMA-Factory 等热门开源项目均在使用。
Hugging Face 将密钥管理从 AWS 单云环境迁移到 Infisical,以支撑 Hub 上超 400 万开发者、每分钟超 1000 万请求的规模。此前团队评估过 HashiCorp Vault,最终选择 Infisical,通过其 Kubernetes Operator 自动同步密钥,并借助 Okta 集成实现基于 RBAC 的细粒度权限控制。
Hugging Face 通过 PR #3091 将 Intel Gaudi 支持原生集成进 TGI 主代码库,不再维护独立的 tgi-gaudi 分支,基于新的多后端架构直接支持 Gaudi1/2/3,分别可运行于 AWS EC2 DL1、Intel Tiber AI Cloud、IBM Cloud 及 Dell、HP、Supermicro 等 OEM 硬件。