nanoVLM 从零实现 KV Cache，生成提速 38%
Hugging Face 的 nanoVLM 仓库从零实现了 KV Caching，使生成速度提升 38%。nanoVLM 是一个用纯 PyTorch 训练自定义视觉语言模型的精简代码库，KV Cache 在 Attention 块、语言模型层和生成循环三处启用，把逐步生成从全序列重算改为增量更新。文中的经验适用于所有自回归语言模型生成。
#开源生态
#开源生态
今日 3 条Hugging Face BlogAI 评分2222
Hugging Face Blog精选AI 评分6262 H Company 发布 GUI 自动化 VLM 系列 Holo1 与 WebClick 基准
H Company 发布 Holo1 系列 Action VLM，包括 Holo1-3B 和 Holo1-7B，基于 Qwen2.5-VL 架构并兼容 transformers，同时在 Hugging Face 开源包含 1,639 个类人 UI 任务的 WebClick 多模态定位基准。
推荐理由：Holo1 开源了 3B 和 7B 两档 GUI 定位模型，并给出真实网页任务的成本与准确率数据，便于判断小模型的落地边界。
Hugging Face Blog精选AI 评分6161 Hugging Face 发布 SmolVLA：450M 开源视觉语言动作模型，基于 LeRobot 社区数据训练
Hugging Face 发布 SmolVLA，一个 450M 参数、可在消费级硬件运行的开源视觉语言动作（VLA）模型，仅用 lerobot 标签下社区共享的开源数据集预训练，包含 487 个数据集约 1000 万帧。
推荐理由：450M 参数的开源 VLA 只用社区数据就超过更大模型，并给出可复现的训练与部署路径。
Hugging Face BlogAI 评分5252 TRL 支持 vLLM 与 GRPO 训练同卡部署
Hugging Face TRL 通过 PR #3394 支持 vLLM 的 external launcher，可在同一分布式进程组中让训练与推理共享同一批 GPU，需在 GRPOConfig 中设置 vllm_mode="colocate"。
Hugging Face Blog精选AI 评分6464 Hugging Face 发布 Python Tiny Agents：约 70 行代码实现 MCP 智能体
Hugging Face 发布 Python 版 Tiny Agents，通过扩展 huggingface_hub 的 MCPClient 让智能体从 MCP 服务器拉取工具并传给 LLM，核心代码约 70 行。
推荐理由：官方教程给出 70 行搭 MCP 智能体的完整配置与代码路径，可直接照此复现。
Hugging Face BlogAI 评分3838 Dell Enterprise Hub 更新：一站式本地部署 AI 模型与应用
Dell Enterprise Hub 发布新版本，提供 Meta Llama 4 Maverick、DeepSeek R1、Google Gemma 3 等模型的即用容器，针对 NVIDIA H100/H200、AMD MI300X、Intel Gaudi 3 的 Dell 服务器完成测试与优化，Llama 4 在 Meta 公开发布后 1 小时内即上线。
Hugging Face Blog精选AI 评分6161 Falcon-H1 发布六款开源混合注意力 SSM 模型
Falcon-H1 系列发布 6 个开源模型，覆盖 0.5B、1.5B、1.5B-Deep、3B、7B 和 34B，均含 base 与 instruct 版本，采用 Apache 2.0 宽松许可。
推荐理由：Falcon-H1 以混合注意力与 SSM 架构在 6 个尺寸上对标同量级 Transformer，可据此判断端侧与长上下文场景的取舍。
Hugging Face BlogAI 评分4949 Hugging Face Diffusers 中的量化后端探索：bitsandbytes、GGUF、torchao、Quanto 与 FP8
Hugging Face 博客详解 Diffusers 直接集成的多种量化后端，包括 bitsandbytes、GGUF、torchao、Quanto 和原生 FP8，并以 Flux-dev 演示。
Hugging Face BlogAI 评分5454 Microsoft 与 Hugging Face 扩大合作，Azure AI Foundry 上线 1 万余个开源模型
Microsoft Build 大会上，Satya Nadella 宣布扩大与 Hugging Face 的合作，Azure AI Foundry 现已提供 1 万余个 Hugging Face 模型，可几次点击部署用于文本、音频和图像应用。
Hugging Face BlogAI 评分4848 Hugging Face Transformers 库推动模型定义标准化，打通全生态框架
Hugging Face 的 Transformers 库正推动成为跨框架的模型定义中枢：模型一旦被 Transformers 支持，即可在 vLLM、SGLang、TGI 等推理引擎中作为后端使用，并与 llama.cpp、MLX 实现互操作。
Hugging Face BlogAI 评分2626 Kaggle 上线 Hugging Face 模型集成，可直接在 Notebook 中调用
Kaggle 推出与 Hugging Face 的集成，用户在 Hugging Face 模型页点击“Use this model”并选择 Kaggle，即可打开预填代码片段的 Kaggle Notebook 加载模型，反之也可从 Kaggle 点击“Code”跳转。
Hugging Face BlogAI 评分4141 HF Mirror 推出基于 vLLM 的极速 Whisper 转录端点，性能提升达 8 倍
HF Mirror 在 Inference Endpoints 上推出新的 OpenAI Whisper 部署方案，基于 vLLM 实现，推理性能较此前版本最高提升 8 倍。
Hugging Face BlogAI 评分2424 Hugging Face 盘点 Vision Language Models 一年进展：更小、更强、更快
Hugging Face 发布博客回顾过去一年视觉语言模型（VLM）的关键变化：Qwen 2.5 Omni 采用 Thinker-Talker 架构，MiniCPM-o 2.6 以 8B 参数覆盖视觉、语音和语言；Moonshot AI 的 Kimi-VL-A3B-Thinking 用 16B 总参数、2.8B 激活参数的 MoE 解码器实现长链式推理。
Hugging Face BlogAI 评分3333 LeRobot 社区数据集：机器人领域的“ImageNet”何时到来、如何实现？
Hugging Face 的 LeRobot 正推动机器人数据采集平民化，通过简化录制流程、打通上传至 HF Hub、降低硬件成本，让社区贡献数据集快速增长，目前以 So100 和 Koch 机械臂数据为主。团队将泛化视为数据问题，主张用开放多样的“机器人 ImageNet”替代学术实验室里结构单一的数据。
Hugging Face BlogAI 评分3434 Qwen-3 的 Chat Template 教会我们的 4 件事
Qwen-3 的 Chat Template 比 Qwen-2.5 和 QwQ 更复杂：通过 enable_thinking 标志可将推理设为可选，设为 false 时模板插入空思考块，让模型跳过逐步推理，而 QwQ 等早期模型强制每轮生成思维链。
Hugging Face BlogAI 评分5151 如何用 Gradio 构建 MCP Server
Gradio 发布教程，演示如何用几行 Python 把任意 Gradio 应用启动为 MCP server，让 LLM 以工具形式调用。只需在 demo.launch() 中设置 mcp_server=True，即可同时启动 Web 界面与 MCP server，并生成可粘贴到 Claude Desktop、Cursor、Cline 等 MCP Client 的配置。
Hugging Face BlogAI 评分5757 Meta 发布 Llama Guard 4 与 Llama Prompt Guard 2 安全模型
Meta 发布 Llama Guard 4 和两个 Llama Prompt Guard 2 安全模型。
Hugging Face BlogAI 评分5858 ServiceNow 开源 PipelineRL：用 inflight 权重更新提升 LLM 强化学习吞吐
ServiceNow 开源实验性 RL 实现 PipelineRL，核心是在 RL 训练中做 inflight 权重更新：每次优化器更新后不停止推理就把新权重广播到推理服务器，从而在保持高推理吞吐的同时让数据接近 on-policy。
Hugging Face Blog精选AI 评分6464 Hugging Face 用 50 行代码实现 MCP 驱动的智能体
Hugging Face 发布 Tiny Agents 教程，演示如何用约 50 行 TypeScript 代码在推理客户端之上实现一个 MCP 驱动的智能体。
推荐理由：文章给出一个约 50 行的 MCP 智能体实现，读者可据此理解工具调用与 MCP 客户端如何拼装成完整智能体。
Hugging Face BlogAI 评分3131 Gradio 不只是 UI 库的 17 个理由
Gradio 官方撰文列出 17 个理由，说明它不只是 Python UI 库，而是同时提供 UI 与 API 的机器学习应用框架。
Hugging Face BlogAI 评分3333 Hugging Face 与 Protect AI 合作半年：扫描 447 万个模型版本，发现 35.2 万个安全问题
Hugging Face 与 Protect AI 合作半年，Guardian 已扫描 HF Hub 上 141 万个仓库中的 447 万个唯一模型版本，在 5.17 万个模型中识别出 35.2 万个不安全或可疑问题。
Hugging Face BlogAI 评分5454 Hugging Face 收购 Pollen Robotics，开始售卖开源人形机器人 Reachy 2
Hugging Face 宣布收购已成立 9 年的开源机器人公司 Pollen Robotics，这是其继 Gradio、XetHub 之后的第五次收购。公司同时开始售卖首款机器人 Reachy 2，这款开源且兼容 VR 的人形机器人面向研究、教育与具身 AI 实验，售价 7 万美元，可通过邮件订购，已在康奈尔、卡内基梅隆等实验室使用。
Hugging Face BlogAI 评分3434 HF Mirror 与 Cloudflare 合作，让 FastRTC 实时语音与视频更顺滑
HF Mirror 与 Cloudflare 达成合作，FastRTC 开发者用一个 HF Mirror token 即可接入 Cloudflare 覆盖 335 个以上地点的全球 TURN 网络。
Hugging Face BlogAI 评分2525 Hugging Face 与 MBZUAI 推出 Arabic-Leaderboards，新增阿拉伯语指令遵循榜单并更新 AraGen
Hugging Face 与 MBZUAI 合作推出 Arabic-Leaderboards Space，将阿拉伯语 AI 评测集中到一处，目前上线 AraGen-03-25 和阿拉伯语指令遵循两个榜单。
Hugging Face Blog精选AI 评分8787 Llama 4 Maverick 与 Scout 上线 Hugging Face，两款 MoE 多模态模型开放权重
Meta 发布 Llama 4 Maverick（约 400B 总参数、17B 激活）和 Llama 4 Scout（约 109B 总参数、17B 激活）两款原生多模态 MoE 模型，权重已上线 Hugging Face 的 meta-llama 组织，含 base 与 instruct 版本，需先接受 Llama 4 社区许可协议。
推荐理由：Meta 同日发布 Llama 4 Maverick 与 Scout 两款 MoE 多模态模型，并给出架构细节与 Hugging Face 侧集成方式。
Hugging Face BlogAI 评分3434 Gradio 月度用户突破 100 万：Hugging Face 分享开源库增长经验
Gradio 上线 5 年后月度开发者用户突破 100 万，Automatic1111、Oobabooga 的 Text Generation WebUI、Dall-E Mini、LLaMA-Factory 等热门开源项目均在使用。
Hugging Face BlogAI 评分1414 Hugging Face 如何用 Infisical 为 AI 基础设施扩展密钥管理
Hugging Face 将密钥管理从 AWS 单云环境迁移到 Infisical，以支撑 Hub 上超 400 万开发者、每分钟超 1000 万请求的规模。此前团队评估过 HashiCorp Vault，最终选择 Infisical，通过其 Kubernetes Operator 自动同步密钥，并借助 Okta 集成实现基于 RBAC 的细粒度权限控制。
Hugging Face BlogAI 评分4343 Hugging Face 将 Intel Gaudi 支持原生集成进 TGI，加速 LLM 推理
Hugging Face 通过 PR #3091 将 Intel Gaudi 支持原生集成进 TGI 主代码库，不再维护独立的 tgi-gaudi 分支，基于新的多后端架构直接支持 Gaudi1/2/3，分别可运行于 AWS EC2 DL1、Intel Tiber AI Cloud、IBM Cloud 及 Dell、HP、Supermicro 等 OEM 硬件。
Hugging Face BlogAI 评分2222 Hugging Face 向白宫 AI 行动计划 RFI 提交回应：力推开源与开放科学
Hugging Face 于 3 月 14 日向白宫 OSTP 的 AI 行动计划 RFI 提交回应，主张开放 AI 系统与开放科学是提升性能、采用率和安全性的基础。
Hugging Face Blog精选AI 评分7676 NVIDIA 在 GTC 2025 发布 Cosmos Transfer、Physical AI Dataset 与 Isaac GR00T N1
NVIDIA 在 GTC 2025 上发布三款面向物理 AI 开发者的开源资源：70 亿参数的 Cosmos Transfer 世界基础模型、15TB 的 Physical AI Dataset，以及首个通用人形机器人开源基础模型 NVIDIA Isaac GR00T N1。
推荐理由：三款开源发布给出参数规模、数据量和模型结构，读者可据此判断物理 AI 开发的基础资源变化。
Hugging Face Blog精选AI 评分8181 Google 发布 Gemma 3：多模态、多语言、长上下文开源模型
Google 发布 Gemma 3 开源权重模型家族，提供 1B、4B、12B、27B 四种规格及预训练与指令微调版本。4B、12B、27B 支持图像与文本输入、140 多种语言和 128k token 上下文，1B 版本仅支持英文文本和 32k 上下文。
推荐理由：Google 开源 Gemma 3 覆盖 1B 到 27B 四种规格，可据此判断小参数模型在多模态与长上下文上的实际边界。
Hugging Face Blog精选AI 评分6868 Open R1 发布 CodeForces-CoTs 数据集、IOI 基准与 OlympicCoder 代码模型
Open R1 发布第三期更新，包括从 DeepSeek-R1 蒸馏的近 10 万条 C++ 与 Python 竞赛编程思维链数据集 CodeForces-CoTs、基于 2024 国际信息学奥林匹克（IOI）的新基准，以及微调的 7B 和 32B 模型 OlympicCoder。
推荐理由：Open R1 公布了从 R1 蒸馏的代码推理数据集、IOI 基准与两个开源模型，可看蒸馏训练的具体做法与教训。
Hugging Face Blog精选AI 评分7575 LeRobot 发布 L2D：全球最大开源自动驾驶数据集
Yaak 与 Hugging Face 的 LeRobot 团队联合发布 Learning to Drive（L2D），被称为全球最大的开源自动驾驶数据集，包含来自德国 30 个城市、60 辆驾校电动车、历时 3 年采集的 90+ TB 多模态数据，约 5000 小时驾驶记录。
推荐理由：L2D 开源数据集包含 5000+ 小时德国驾校数据，可用于 LeRobot 端到端自动驾驶模型的训练与闭环测试。
Hugging Face Blog精选AI 评分6767 Cohere For AI 发布 Aya Vision 多语言多模态模型 8B 与 32B
Cohere For AI 发布 Aya Vision 系列开源多语言多模态模型，含 8B 和 32B 两个尺寸，覆盖 23 种语言。Aya Vision 32B 在 AyaVisionBench 上以 50% 至 64% 的胜率超过 Llama-3.2 90B Vision、Molmo 72B 和 Qwen2.5-VL 72B 等参数量两倍于它的模型。
推荐理由：原文给出 8B/32B 两个尺寸的开源权重与训练配方，可据此比较小参数多模态模型在多语言任务上的位置。
Hugging Face BlogAI 评分3232 Hugging Face 与 JFrog 合作，用 JFrog 扫描器提升模型安全透明度
Hugging Face 将 JFrog 的扫描器接入 HF Mirror Hub，为所有公开模型仓库自动扫描，文件推送即触发。JFrog 会解析模型权重中的代码，判断其是否为恶意用法，弥补 picklescan 仅做模块名模式匹配、易产生误报的不足，并覆盖 pickle 之外的更多格式。
Hugging Face BlogAI 评分5252 用 Arize Phoenix 追踪和评估 smolagents 智能体
Hugging Face 博客介绍如何用 Arize Phoenix 配合 OpenTelemetry 和 OpenInference，对基于 smolagents 构建的智能体进行追踪与评估。
Hugging Face BlogAI 评分3838 Hugging Face 与 IISc 合作，推进印度多语言模型构建
Hugging Face 与印度科学研究所 IISc、ARTPARK 达成合作，提升印度多模态多语言数据集 Vaani 的可访问性与可用性。Vaani 于 2022 年由 IISc/ARTPARK 与 Google 发起，已开源第一阶段 80 个地区的数据，第二阶段将再覆盖 100 个地区，目标采集超 15 万小时语音和 1.5 万小时转写文本。
Hugging Face Blog精选AI 评分6464 Hugging Face 发布 Python 实时通信库 FastRTC
Hugging Face 发布开源 Python 库 FastRTC，用于构建实时音频和视频 AI 应用，内置语音检测与轮次切换、WebRTC 版 Gradio UI 以及 WebSocket 支持。
推荐理由：介绍了一个把 WebRTC 实时音视频通信封装成 Python 库的开源项目，读者可据此了解如何用少量代码搭建实时语音 AI 应用。
Hugging Face BlogAI 评分4646 Hugging Face 推出 Remote VAE：用 Inference Endpoints 远程解码扩散模型潜空间
Hugging Face Diffusers 团队试点 Remote VAE，将扩散模型的 VAE 解码交给远程 Inference Endpoints，缓解高分辨率图像和视频生成中解码器显存占用过高的问题，避免 offloading 的设备传输延迟和 tiling 的画质损失。
Hugging Face Blog精选AI 评分6767 Hugging Face 发布 SmolVLM2：256M 到 2.2B 的视频理解模型
Hugging Face 发布 SmolVLM2 系列视频理解模型，包含 2.2B、500M 和 256M 三种参数规模，并同步支持 Transformers 与 MLX。
推荐理由：Hugging Face 发布三档小参数视频理解模型，并给出 iPhone、VLC 等端侧落地方式，可对照其内存与性能取舍。