Hugging Face 详解机器人异步推理：解耦动作预测与执行，任务完成提速约 2 倍
Hugging Face 发布博客介绍机器人异步推理，将动作预测与动作执行解耦，让机器人在 PolicyServer 计算下一段动作时继续执行当前动作队列，从而消除等待推理的空闲时间。
全部AI 动态
全部动态
今日 74 条Hugging Face BlogAI 评分5050
Hugging Face BlogAI 评分3737 Hugging Face 与 AMD 为 MI300X 打造自定义内核，加速 Llama 3.1 405B FP8 推理
Hugging Face 与 AMD 合作，为 MI300X 编写开源优化内核，提升 Llama 3.1 405B 在 FP8 下用 VLLM 的推理性能。三个自定义内核——融合残差连接、RMS norm 与 FP8 转换，融合 SwiGLU 激活与 FP8 转换，以及 Skinny GEMM——带来显著加速，测量基于输入 1、输出 128 的解码场景。
Hugging Face BlogAI 评分5757 Hugging Face 与 Pollen Robotics 发布开源机器人 Reachy Mini，售价 399 美元起
Hugging Face 与 Pollen Robotics 联合发布开源机器人 Reachy Mini，Lite 版 399 美元、带计算与电池的 Compute 版 499 美元，预计约 90 天发货。
Hugging Face BlogAI 评分4242 用 Gradio MCP Servers 为 LLM 增加新技能
Hugging Face 博客介绍如何通过 Gradio MCP Servers 为 LLM 扩展能力。Gradio 从 5.28.0 版本起支持 MCP 协议，使 Hugging Face Spaces 上的数千个 AI 应用成为 LLM 可直接调用的工具。
Hugging Face Blog精选AI 评分6565 Hugging Face 发布 SmolLM3：3B 多语言长上下文推理模型
Hugging Face 发布 SmolLM3，一个 3B 全开源模型，训练于 11.2T tokens，支持英语、法语、西班牙语、德语、意大利语和葡萄牙语，上下文窗口达 128k。
推荐理由：Hugging Face 公开了 3B 模型的完整训练配方与数据配比，读者可了解小模型在长上下文和双模式推理上的工程路径。
Hugging Face BlogAI 评分3737 Hugging Face 详解高效多模态数据管道：从 Padding 浪费到背包问题打包
Hugging Face 在 nanoVLM 项目中发现，训练中约 60% 的 batch 被无用的 padding token 占据，GPU 大量空转。其博客给出五阶段数据管道方案：从朴素 padding、固定长度裁剪，到用背包问题（knapsack）动态打包序列，并借助 IterableDataset 与生产者-消费者队列实现多模态数据的按需组批，尽量减少填充浪费。
Hugging Face BlogAI 评分1111 HF Mirror 生产基础设施背后的三大关键告警
HF Mirror 基础设施团队公开支撑其生产环境的三类核心告警：NAT 网关吞吐量过高告警用于监控出网流量，可在流量激增或重构时触发以优化成本；Hub 请求日志归档成功率告警依托 Filebeat、Logstash 与 Elasticsearch 组成的日志管道，保障模型使用数据的采集与归档。
Hugging Face BlogAI 评分2323 Hugging Face 宣布 NeurIPS 2025 E2LM 竞赛：评测大语言模型训练早期阶段
Hugging Face 宣布举办 NeurIPS 2025 E2LM 竞赛，面向科学知识领域构建能在 LLM 训练早期（约 200B tokens 前）捕捉有效信号的新基准。
Hugging Face BlogAI 评分2828 用 Sentence Transformers 训练和微调稀疏嵌入模型
Sentence Transformers 现已支持训练和微调稀疏嵌入模型，微调后的 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 成本低廉，尤其适合混合搜索和检索重排场景。
Hugging Face BlogAI 评分4949 NVIDIA Llama Nemotron Nano VL 上架 Hugging Face：8B 文档处理 VLM
NVIDIA Llama Nemotron Nano VL 已上架 Hugging Face，这是一款 8B 视觉语言模型，面向智能文档处理与 OCR。
Hugging Face Blog精选AI 评分7373 Gemma 3n 正式上线开源生态，E2B 仅需 2GB GPU 显存
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、Transformers.js、Ollama、Google AI Edge 等主流开源库上线，共发布 gemma-3n-E2B 与 gemma-3n-E4B 两种尺寸，各有 base 和 instruct 变体。
推荐理由：原文给出 Gemma 3n 的端侧内存占用、多模态编码器与各开源库集成方式，可据此判断本地部署门槛。
Hugging Face BlogAI 评分2929 SGLang 新增 Transformers 后端集成
SGLang 现已支持 Hugging Face transformers 作为后端，可直接运行任意 transformers 兼容模型，无需原生支持，通过设置 impl="transformers" 即可启用。
Hugging Face Blog精选AI 评分6565 在消费级硬件上微调 FLUX.1-dev：QLoRA 与 FP8 实践
Hugging Face 发布教程，演示用 diffusers 库以 QLoRA 在单卡上微调 FLUX.1-dev，峰值显存约 9GB，可学习 Alphonse Mucha 艺术风格。
推荐理由：以 FLUX.1-dev 为例给出 QLoRA、8-bit 优化器、梯度检查点等组合，把微调峰值显存压到约 9GB。
Hugging Face BlogAI 评分2323 Groq 成为 HF Mirror Inference Providers 支持的服务商
Groq 正式加入 HF Mirror Hub 的 Inference Providers，为模型页面提供无服务器推理。Groq 支持 Meta Llama 4、Qwen QWQ-32B 等开源模型，其核心 LPU 专为 LLM 推理设计，延迟更低、吞吐更高。用户可在账户设置中配置 Groq API key 直连，或通过 HF 路由调用，PRO 用户每月获 $2 推理额度。
Hugging Face BlogAI 评分4040 长提示词如何阻塞其他请求：优化 LLM 性能
TNG 在 24 块 H100 上自托管大量 LLM，服务超 50 个应用、每天消耗逾 1 亿 token 并生成超 1000 万 token。由于 vLLM 默认的 chunked-prefill 会为单个请求顺序调度 prefill，一个长提示词即可阻塞后续请求的 prefill 队列，抬高首 token 延迟。
Hugging Face BlogAI 评分2323 Featherless AI 成为 HF Mirror Inference Providers 支持的服务商
Featherless AI 已接入 HF Mirror Hub 的 Inference Providers，其无服务器推理可直接用于模型页面及 JS、Python 客户端 SDK。
Hugging Face BlogAI 评分4949 5 分钟上手 Hugging Face Kernel Hub
Hugging Face 推出 Kernel Hub，让 Python 库和应用直接从 Hub 加载预编译优化计算内核，用 `get_kernel("kernels-community/flash-attn")` 一行即可启用 FlashAttention，无需自行编译。
Hugging Face BlogAI 评分5151 NVIDIA 教程：如何为 LeRobot SO-101 机械臂微调 Isaac GR00T N1.5
NVIDIA 发布 Isaac GR00T N1.5 后给出教程，演示如何用单台 LeRobot SO-101 机械臂的遥操作数据对模型做 post-training 微调。
Hugging Face BlogAI 评分4848 Hugging Face 与 NVIDIA 联手推出 Training Cluster as a Service
Hugging Face 与 NVIDIA 合作推出 Training Cluster as a Service，让全球研究机构按需申请 GPU 集群并按训练时长付费，Hugging Face 上 25 万家组织可提交需求。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 ScreenSuite：面向 GUI Agent 的综合评测套件
Hugging Face 发布 ScreenSuite，称其为面向 GUI Agent 最全面的评测套件，整合 13 个基准，覆盖感知、Grounding、单步动作与多步智能体四类能力。
推荐理由：原文给出 13 个基准的构成与纯视觉评测设定，可据此了解 GUI Agent 评测如何统一与本地复现。
The GradientAI 评分2424 AGI 不是多模态：为什么把模态拼起来无法通向通用智能
The Gradient 刊文《AGI Is Not Multimodal》指出，多模态路线把大量模块化网络堆叠起来看似通用，短期内无法实现具备感知运动推理、运动规划与社交协作能力的人类级 AGI。
Hugging Face BlogAI 评分2222 nanoVLM 从零实现 KV Cache，生成提速 38%
Hugging Face 的 nanoVLM 仓库从零实现了 KV Caching，使生成速度提升 38%。nanoVLM 是一个用纯 PyTorch 训练自定义视觉语言模型的精简代码库，KV Cache 在 Attention 块、语言模型层和生成循环三处启用，把逐步生成从全序列重算改为增量更新。文中的经验适用于所有自回归语言模型生成。
Hugging Face BlogAI 评分2727 Arm CPU 上用 Stable Audio Open 实现实时 AI 音效生成
Arm 工程师 Michael Gamble 用 Stability AI 的 Stable Audio Open 模型，在 Arm CPU 上构建了完全本地运行的个人音效生成工具，无需 GPU 和云端推理，几秒内即可根据文字提示生成 .wav 文件并直接送入 Ableton Live。
Hugging Face Blog精选AI 评分6262 H Company 发布 GUI 自动化 VLM 系列 Holo1 与 WebClick 基准
H Company 发布 Holo1 系列 Action VLM，包括 Holo1-3B 和 Holo1-7B，基于 Qwen2.5-VL 架构并兼容 transformers，同时在 Hugging Face 开源包含 1,639 个类人 UI 任务的 WebClick 多模态定位基准。
推荐理由：Holo1 开源了 3B 和 7B 两档 GUI 定位模型，并给出真实网页任务的成本与准确率数据，便于判断小模型的落地边界。
Hugging Face Blog精选AI 评分6161 Hugging Face 发布 SmolVLA：450M 开源视觉语言动作模型，基于 LeRobot 社区数据训练
Hugging Face 发布 SmolVLA，一个 450M 参数、可在消费级硬件运行的开源视觉语言动作（VLA）模型，仅用 lerobot 标签下社区共享的开源数据集预训练，包含 487 个数据集约 1000 万帧。
推荐理由：450M 参数的开源 VLA 只用社区数据就超过更大模型，并给出可复现的训练与部署路径。
Hugging Face BlogAI 评分5252 TRL 支持 vLLM 与 GRPO 训练同卡部署
Hugging Face TRL 通过 PR #3394 支持 vLLM 的 external launcher，可在同一分布式进程组中让训练与推理共享同一批 GPU，需在 GRPOConfig 中设置 vllm_mode="colocate"。
Hugging Face BlogAI 评分5151 Hugging Face 研究：用结构化输出提升 CodeAgent 执行可靠性
Hugging Face 分享研究，提出让 CodeAgent 以结构化 JSON 同时输出 thoughts 和可执行 code，在 GAIA、MATH、SimpleQA、Frames 等基准上比普通 CodeAgent 平均提升 2-7 个百分点。
Hugging Face BlogAI 评分1212 Liger GRPO 结合 TRL 在 DeepSpeed ZeRO3 下出现 shape mismatch
有用户在 bf16 精度下用 Qwen2.5-0.5B-Instruct 测试 Liger GRPO loss 搭配 DeepSpeed ZeRO3，训练时在 liger_kernel 的 grpo_loss 前向计算中触发 shape mismatch 报错。
Hugging Face Blog精选AI 评分6464 Hugging Face 发布 Python Tiny Agents：约 70 行代码实现 MCP 智能体
Hugging Face 发布 Python 版 Tiny Agents，通过扩展 huggingface_hub 的 MCPClient 让智能体从 MCP 服务器拉取工具并传给 LLM，核心代码约 70 行。
推荐理由：官方教程给出 70 行搭 MCP 智能体的完整配置与代码路径，可直接照此复现。
Hugging Face BlogAI 评分3838 Dell Enterprise Hub 更新：一站式本地部署 AI 模型与应用
Dell Enterprise Hub 发布新版本，提供 Meta Llama 4 Maverick、DeepSeek R1、Google Gemma 3 等模型的即用容器，针对 NVIDIA H100/H200、AMD MI300X、Intel Gaudi 3 的 Dell 服务器完成测试与优化，Llama 4 在 Meta 公开发布后 1 小时内即上线。
Hugging Face Blog精选AI 评分6161 Falcon-H1 发布六款开源混合注意力 SSM 模型
Falcon-H1 系列发布 6 个开源模型，覆盖 0.5B、1.5B、1.5B-Deep、3B、7B 和 34B，均含 base 与 instruct 版本，采用 Apache 2.0 宽松许可。
推荐理由：Falcon-H1 以混合注意力与 SSM 架构在 6 个尺寸上对标同量级 Transformer，可据此判断端侧与长上下文场景的取舍。
Hugging Face BlogAI 评分4141 Falcon-Arabic 发布：7B 阿拉伯语语言模型刷新阿拉伯语 NLP 基准
阿联酋 TII 基于 Falcon 3 架构推出 7B 参数模型 Falcon-Arabic，支持阿拉伯语、英语等多语言。该模型支持 32,000 tokens 上下文，在 OALL v2 基准上超越同规模阿拉伯语 LLM，甚至优于体积大至 4 倍的模型，并覆盖 RAG 等长文档任务。
Hugging Face Blog精选AI 评分6161 Hugging Face 发布 nanoVLM：纯 PyTorch 训练视觉语言模型的最简仓库
Hugging Face 发布 nanoVLM，一个纯 PyTorch 的轻量工具包，可在免费 Colab 上训练视觉语言模型，灵感来自 nanoGPT。其视觉骨干采用 Google SigLIP 编码器，语言骨干沿用 Llama 3 架构，通过模态投影模块对齐图文嵌入；训练脚本 train.py 集成数据加载、模型初始化与优化，并对模态投影和主干设置两组不同学习率。
推荐理由：官方博客给出 nanoVLM 的架构与训练流程细节，可用于理解 VLM 图文对齐与轻量训练实践。
Hugging Face BlogAI 评分4949 Hugging Face Diffusers 中的量化后端探索：bitsandbytes、GGUF、torchao、Quanto 与 FP8
Hugging Face 博客详解 Diffusers 直接集成的多种量化后端，包括 bitsandbytes、GGUF、torchao、Quanto 和原生 FP8，并以 Flux-dev 演示。
Hugging Face BlogAI 评分5454 Microsoft 与 Hugging Face 扩大合作，Azure AI Foundry 上线 1 万余个开源模型
Microsoft Build 大会上，Satya Nadella 宣布扩大与 Hugging Face 的合作，Azure AI Foundry 现已提供 1 万余个 Hugging Face 模型，可几次点击部署用于文本、音频和图像应用。
Hugging Face BlogAI 评分5252 Falcon-Edge 发布 1B 与 3B 三值语言模型，支持微调
Falcon-LLM 团队发布 Falcon-Edge 系列 1.58bit 语言模型，基于 BitNet 架构，提供 1B 和 3B 两种规模，各有 base 与指令微调版本，用约 1.5 Tera Tokens 内部数据预训练。
Hugging Face BlogAI 评分4848 Hugging Face Transformers 库推动模型定义标准化，打通全生态框架
Hugging Face 的 Transformers 库正推动成为跨框架的模型定义中枢：模型一旦被 Transformers 支持，即可在 vLLM、SGLang、TGI 等推理引擎中作为后端使用，并与 llama.cpp、MLX 实现互操作。
Hugging Face BlogAI 评分2626 Kaggle 上线 Hugging Face 模型集成，可直接在 Notebook 中调用
Kaggle 推出与 Hugging Face 的集成，用户在 Hugging Face 模型页点击“Use this model”并选择 Kaggle，即可打开预填代码片段的 Kaggle Notebook 加载模型，反之也可从 Kaggle 点击“Code”跳转。
Hugging Face BlogAI 评分4141 HF Mirror 推出基于 vLLM 的极速 Whisper 转录端点，性能提升达 8 倍
HF Mirror 在 Inference Endpoints 上推出新的 OpenAI Whisper 部署方案，基于 vLLM 实现，推理性能较此前版本最高提升 8 倍。
Hugging Face BlogAI 评分2424 Hugging Face 盘点 Vision Language Models 一年进展：更小、更强、更快
Hugging Face 发布博客回顾过去一年视觉语言模型（VLM）的关键变化：Qwen 2.5 Omni 采用 Thinker-Talker 架构，MiniCPM-o 2.6 以 8B 参数覆盖视觉、语音和语言；Moonshot AI 的 Kimi-VL-A3B-Thinking 用 16B 总参数、2.8B 激活参数的 MoE 解码器实现长链式推理。