Hugging Face 发布 Python Tiny Agents：约 70 行代码实现 MCP 智能体
Hugging Face 发布 Python 版 Tiny Agents，通过扩展 huggingface_hub 的 MCPClient 让智能体从 MCP 服务器拉取工具并传给 LLM，核心代码约 70 行。
推荐理由：官方教程给出 70 行搭 MCP 智能体的完整配置与代码路径，可直接照此复现。
#教程/实践
#教程/实践
今日 2 条Hugging Face Blog精选AI 评分6464
Hugging Face Blog精选AI 评分6161 Hugging Face 发布 nanoVLM：纯 PyTorch 训练视觉语言模型的最简仓库
Hugging Face 发布 nanoVLM，一个纯 PyTorch 的轻量工具包，可在免费 Colab 上训练视觉语言模型，灵感来自 nanoGPT。其视觉骨干采用 Google SigLIP 编码器，语言骨干沿用 Llama 3 架构，通过模态投影模块对齐图文嵌入；训练脚本 train.py 集成数据加载、模型初始化与优化，并对模态投影和主干设置两组不同学习率。
推荐理由：官方博客给出 nanoVLM 的架构与训练流程细节，可用于理解 VLM 图文对齐与轻量训练实践。
Hugging Face BlogAI 评分4949 Hugging Face Diffusers 中的量化后端探索：bitsandbytes、GGUF、torchao、Quanto 与 FP8
Hugging Face 博客详解 Diffusers 直接集成的多种量化后端，包括 bitsandbytes、GGUF、torchao、Quanto 和原生 FP8，并以 Flux-dev 演示。
Hugging Face BlogAI 评分2424 Hugging Face 盘点 Vision Language Models 一年进展：更小、更强、更快
Hugging Face 发布博客回顾过去一年视觉语言模型（VLM）的关键变化：Qwen 2.5 Omni 采用 Thinker-Talker 架构，MiniCPM-o 2.6 以 8B 参数覆盖视觉、语音和语言；Moonshot AI 的 Kimi-VL-A3B-Thinking 用 16B 总参数、2.8B 激活参数的 MoE 解码器实现长链式推理。
Hugging Face BlogAI 评分3333 LeRobot 社区数据集：机器人领域的“ImageNet”何时到来、如何实现？
Hugging Face 的 LeRobot 正推动机器人数据采集平民化，通过简化录制流程、打通上传至 HF Hub、降低硬件成本，让社区贡献数据集快速增长，目前以 So100 和 Koch 机械臂数据为主。团队将泛化视为数据问题，主张用开放多样的“机器人 ImageNet”替代学术实验室里结构单一的数据。
Hugging Face BlogAI 评分3434 Qwen-3 的 Chat Template 教会我们的 4 件事
Qwen-3 的 Chat Template 比 Qwen-2.5 和 QwQ 更复杂：通过 enable_thinking 标志可将推理设为可选，设为 false 时模板插入空思考块，让模型跳过逐步推理，而 QwQ 等早期模型强制每轮生成思维链。
Hugging Face BlogAI 评分5151 如何用 Gradio 构建 MCP Server
Gradio 发布教程，演示如何用几行 Python 把任意 Gradio 应用启动为 MCP server，让 LLM 以工具形式调用。只需在 demo.launch() 中设置 mcp_server=True，即可同时启动 Web 界面与 MCP server，并生成可粘贴到 Claude Desktop、Cursor、Cline 等 MCP Client 的配置。
Hugging Face Blog精选AI 评分6464 Hugging Face 用 50 行代码实现 MCP 驱动的智能体
Hugging Face 发布 Tiny Agents 教程，演示如何用约 50 行 TypeScript 代码在推理客户端之上实现一个 MCP 驱动的智能体。
推荐理由：文章给出一个约 50 行的 MCP 智能体实现，读者可据此理解工具调用与 MCP 客户端如何拼装成完整智能体。
Hugging Face BlogAI 评分3131 TNG 微调 olmOCR-7B-0225-preview，打造忠实还原页眉页脚的 OCR 引擎
TNG 基于 olmOCR-7B-0225-preview 微调出忠实版 OCR 引擎，解决了原模型为生成训练数据而刻意忽略页眉页脚信息的问题。团队用 Qwen2.5-VL-72B-Instruct 生成 8000 份文档数据集，在 8xH100 节点上训练 2.5 个 epoch，发票等文档的页眉页脚关键信息现可完整提取，同时保留简单表格与多栏布局解析能力。
Hugging Face BlogAI 评分2727 Hugging Face 解析并发请求下的 LLM Prefill 与 Decode 优化
LLM 的 token 生成分为可并行处理提示词的 prefill 阶段和只能逐个生成的 decode 阶段，两者分别对应首 token 延迟和单 token 延迟。在 24 张 H100 组成的集群上自托管大模型时，decode 阶段受 GPU 显存带宽限制，可通过批处理多请求提升利用率。低并发下吞吐随并发数近线性增长，GPU 利用率饱和后吞吐不再提升，总吞吐与单请求延迟之间存在权衡。
Hugging Face BlogAI 评分3131 Gradio 不只是 UI 库的 17 个理由
Gradio 官方撰文列出 17 个理由，说明它不只是 Python UI 库，而是同时提供 UI 与 API 的机器学习应用框架。
OpenAI NewsAI 评分3131 如何用 ChatGPT canvas 从 PRD 快速做出 HTML/React 原型
ChatGPT 的 canvas 可以把产品需求文档（PRD）直接转成可运行的 HTML/React 原型。演示展示了从 PRD 到可运行原型的完整流程。
Hugging Face BlogAI 评分3434 Gradio 月度用户突破 100 万：Hugging Face 分享开源库增长经验
Gradio 上线 5 年后月度开发者用户突破 100 万，Automatic1111、Oobabooga 的 Text Generation WebUI、Dall-E Mini、LLaMA-Factory 等热门开源项目均在使用。
Hugging Face BlogAI 评分2626 Hugging Face 将 NLP Course 升级为 LLM Course
Hugging Face 把已有 3 年历史的 NLP Course 更名为 LLM Course，并新增微调 LLM、构建 DeepSeek R1 等推理模型的新章节。
Hugging Face BlogAI 评分3030 如何用高效请求排队优化 LLM 推理性能
TNG Technology Consulting 提出在自建 LLM-Server 中为每个用户和模型设置独立队列，并采用轮询式公平调度替代 FIFO，避免单个"重度用户"占满队列阻塞他人。该方案通过 vLLM 的 /metrics 端点读取后端队列长度指标、动态控制请求下发速率以保持短队列，从而降低新用户延迟。文章还讨论了按请求数、处理时长、KV-cache 命中和优先级分级等公平性扩展方向。
Hugging Face BlogAI 评分5353 用 Sentence Transformers 训练和微调 Reranker 模型
Hugging Face 发布教程，介绍如何用 Sentence Transformers 库微调 reranker（Cross Encoder）模型，覆盖数据集、损失函数、训练参数、评估器和 CrossEncoderTrainer 各组件。
Hugging Face BlogAI 评分3434 Open R1 的 OlympicCoder 7B 如何在本地接入 VS Code 写代码
Hugging Face 博客给出用 LM Studio 在本地运行 OlympicCoder 7B 的 4bit GGUF 量化版，并通过 Continue 扩展接入 VS Code 的完整步骤。该 7B 模型在 LiveCodeBench 评测中超过 Claude 3.7 Sonnet 和 GPT-4o，因为基于 CodeForces-CoTs 数据集优化，风格偏向竞赛型而非解释型。
Hugging Face BlogAI 评分4141 如何在手机上用 React Native 本地运行 LLM：Hugging Face 的 EdgeLLM 指南
Hugging Face 发布教程，教你用 React Native 和 llama.rn（llama.cpp 的绑定）构建本地运行 LLM 的移动应用，通过加载 GGUF 文件从 HF Mirror 下载模型，全程离线保护隐私。
Hugging Face BlogAI 评分5252 用 Arize Phoenix 追踪和评估 smolagents 智能体
Hugging Face 博客介绍如何用 Arize Phoenix 配合 OpenTelemetry 和 OpenInference，对基于 smolagents 构建的智能体进行追踪与评估。
Hugging Face BlogAI 评分5050 Hugging Face 实测：10 亿次分类与嵌入推理的成本优化框架
Hugging Face 发布博客，拆解每天 10 亿次以上分类与嵌入推理的成本与延迟计算方法。作者用 Inference Endpoints、HF Hub 库、Infinity 推理服务器和 k6 压测，在 nvidia-L4（$0.8/hr）上跑出 10 亿次分类 $253.82、嵌入 $409.44，而 ColQwen2 视觉嵌入高达 $44,496.51。
Hugging Face BlogAI 评分5151 Hugging Face 发布视频数据集构建工具
Hugging Face 发布一套用于视频生成数据集的三阶段流水线工具，通过 yt-dlp 采集视频、Video to Scenes 切分片段，并用 LAION-5B-WatermarkDetection。
Hugging Face BlogAI 评分5151 Hugging Face 将 π0 与 π0-FAST 视觉-语言-动作模型移植到 LeRobot
Hugging Face 已将 Physical Intelligence 开发的两个机器人基础模型 π0 与 π0-FAST 移植到 LeRobot 仓库，可在其生态中使用。
Hugging Face Blog精选AI 评分7171 Mini-R1：用 GRPO 和 Countdown Game 复现 DeepSeek R1 的 aha moment
Hugging Face 博客发布了一篇 RL 教程，用 GRPO 和 Countdown Game、以 Qwen2.5-3B-Instruct 为基座在 4x H100 上复现 DeepSeek R1 的 aha moment。
推荐理由：原文给出了在 4x H100 上用 GRPO 复现 R1 式推理的完整脚本、奖励函数与训练观察，可据此判断 RL 训练的实际收敛过程。
Hugging Face BlogAI 评分3232 如何在 AWS 上部署并微调 DeepSeek 模型
Hugging Face 与 AWS 合作发布了在 AWS 上部署和微调 DeepSeek R1 系列模型的指南，涵盖通过 Inference Endpoints、Amazon Bedrock Marketplace、SageMaker AI 和 EC2 Neuron 等服务的部署路径，以及基于 Hugging Face Training DLCs 的微调方法。
Hugging Face BlogAI 评分4848 Diffusers 中的开源视频生成模型现状
Hugging Face 发布 Diffusers 开源视频生成模型现状综述，梳理了 CogVideoX、Mochi-1、Hunyuan Video、Allegro、LTX Video 等模型，并对比 Meta MovieGen、OpenAI Sora、Google Veo 2 等闭源方案。
Hugging Face BlogAI 评分4141 如何用 NVIDIA KVPress 压缩 KV Cache 搞定 LLM 长上下文
NVIDIA 推出 Python 工具包 KVPress，通过多种 press 压缩 KV Cache，缓解长上下文 LLM 的显存瓶颈。以 Llama 3-70B 的 bfloat16 精度、1M token 上下文为例，KV Cache 独占 327.6GB，占约 470GB 总显存需求的 70%。
Hugging Face BlogAI 评分4848 Hugging Face transformers 集成 timm：任意 timm 模型都能用 pipeline、量化和微调
Hugging Face 通过新增 TimmWrapper 将 timm 库的计算机视觉模型接入 transformers 生态，让任意 timm 模型可用 pipeline API 推理并兼容 Auto 类。
Hugging Face BlogAI 评分3434 Hugging Face：Open LLM Leaderboard 加入 CO₂ 排放评估，社区微调模型更省碳
Hugging Face 为 Open LLM Leaderboard 加入模型推理的 CO₂ 排放估算，覆盖 3,000 多个模型的评测。数据显示模型越大排放越高但分数收益递减，MoE 模型的分数-排放比普遍偏低，而社区微调或合并模型往往比其官方基座更省碳。
Hugging Face Blog精选AI 评分6060 如何在 PyTorch 中可视化和理解 GPU 显存占用
Hugging Face 博客给出用 PyTorch 的 torch.cuda.memory 记录并可视化 GPU 显存占用的完整方法，把 profile.pkl 拖入 pytorch.org/memory_viz 即可看到显存随时间变化的图形。
推荐理由：用 PyTorch 自带的内存快照工具逐步拆解训练显存构成，并给出可套用的估算公式。
Hugging Face BlogAI 评分4444 NVIDIA LogitsProcessorZoo 如何用 logits 处理器控制语言模型生成
NVIDIA 的 LogitsProcessorZoo 是一套模块化 logits 处理器，可控制语言模型生成时的序列长度、强制关键短语或引导多选题答案，并与 Hugging Face Transformers 的 generate 方法完全兼容。
Hugging Face BlogAI 评分2727 在 GCP 第 5 代 Xeon 上基准测试语言模型性能
Hugging Face 用 optimum-benchmark 在 Google Cloud 的 C4（第 5 代 Intel Xeon，Emerald Rapids，带 AMX）和 N2（第 3 代 Xeon，Ice Lake，仅 AVX-512）上对比测试文本嵌入与文本生成。
Hugging Face BlogAI 评分2929 LLM 有多擅长修正自己的错误？用 Keras 和 TPU 做的 chatbot arena 实验
一项基于 Keras、JAX 和 TPU 的 chatbot arena 实验测试了 LLM 修正自身错误的能力。
Hugging Face BlogAI 评分3636 CFM 案例：用 LLM 辅助标注微调小模型，NER 准确率提升 6.4%、成本降低 80 倍
Capital Fund Management（CFM）用 Llama 3.1 辅助标注金融新闻命名实体识别数据，再微调 GLiNER 与 SpanMarker 小模型，F1 分别从 87.0% 和 47.0% 提升至 93.4% 和 90.1%。
Hugging Face BlogAI 评分3535 Hugging Face 重新设计 Hub 上传下载架构，引入内容寻址存储
Hugging Face 的 Xet 团队正在重新设计 Hub 的上传与下载架构，计划引入内容寻址存储（CAS）并自建传输协议，按字节级分析文件以加速模型与数据集仓库的大文件传输，该协议还能将 Safetensors 张量文件的上传速度提升 10-25%。
Hugging Face BlogAI 评分2222 你也能设计出 SOTA 位置编码：一步步推导出 Llama 3.2 使用的 RoPE
一篇教程从零迭代推导 Transformer 位置编码，最终抵达 Llama 3.2 及多数现代 Transformer 采用的旋转位置编码（RoPE）。文章先给出理想位置编码应满足的 5 条性质，包括每个位置编码唯一且与序列长度无关、相邻位置间存在线性关系、可泛化到训练长度之外的序列、可由模型学习的确定性过程生成，以及能自然扩展到多维以支持图像等数据。
Hugging Face BlogAI 评分3232 Hugging Face 详解 LayerSkip 自推测解码：用早期层草稿加速文本生成
Hugging Face 博客介绍了源自 LayerSkip 论文的自推测解码（self-speculative decoding）：用同一 LLM 的浅层生成草稿 token、深层负责验证，无需额外草稿模型即可同时提升速度并节省显存。
Hugging Face BlogAI 评分2222 Hugging Face 专家支持案例：用 LLM-as-a-Judge 强化 Farmer.chat 的 RAG 应用
Digital Green 与 CGIAR、Hugging Face 专家支持计划合作开发农业问答机器人 Farmer.chat，基于 RAG 和 GPT-4o 规划智能体回答农户提问，知识库涵盖近 46000 篇农业研究论文。过去一年该机器人已服务超 2 万名农户、处理逾 34 万次查询。为评估回答质量，团队搭建了 LLM-as-a-Judge 评测体系。
Hugging Face BlogAI 评分3939 如何在 HF Mirror Inference Endpoints 上部署 Speech-to-Speech
HF Mirror 的 Speech-to-Speech（S2S）项目通过 VAD、语音转文本、语言模型和文本转语音组成的级联管道实现语音对话，支持英语、法语、西班牙语、中文、日语和韩语。由于运行 S2S 需要大量算力，即使高端笔记本也可能出现延迟，官方给出用自定义 Docker 镜像将其部署到 HF Mirror Inference Endpoints 的分步教程。
Hugging Face BlogAI 评分4242 Llama 3.2 已在 Keras 中可用
Llama 3.2 的 Keras 支持从发布第一天起就已可用，可直接从 HF 标准 safetensors checkpoint 加载，包括 3.2 checkpoint，需要转换时会即时完成。
Hugging Face BlogAI 评分4141 Hugging Face 修复 Transformers 梯度累积损失计算错误
Hugging Face 修复了 Transformers Trainer 中梯度累积的损失计算 bug：按 token 级任务应将整个累积步的总损失除以全部非 padding token 数，而非对每个 batch 的损失取平均，此前开启与关闭梯度累积的两次训练损失对不上。