Hugging Face 指南：用开源模型强化 OCR Pipeline
Hugging Face 发布指南，介绍如何用开放权重模型搭建 OCR Pipeline，并新增 Chandra 与 OlmOCR-2 两个模型及其 OlmOCR 评分。指南对比了当前 OCR 模型的能力、评测基准与成本效率，还讲解了何时微调、何时直接使用，以及如何用多模态检索和文档问答把 OCR 扩展到更远。
#教程/实践
#教程/实践
今日 2 条Hugging Face BlogAI 评分4545
Hugging Face BlogAI 评分3030 Hugging Face 发起 AI for Food Allergies 项目，用 AI 推进食物过敏研究
Hugging Face 发起 AI for Food Allergies 项目，计划建设首个社区驱动的研究实验室，探索 AI 如何推进食物过敏研究。
Hugging Face BlogAI 评分3030 Google Cloud C4 搭配 Intel 与 HF Mirror，将 GPT OSS 的 TCO 改善 70%
Intel 与 HuggingFace 合作，在搭载 Intel Xeon 6 处理器（GNR）的 Google Cloud C4 虚拟机上对 OpenAI GPT OSS（120B MoE）做文本生成基准测试，相比上代 C3 实例 TCO 改善 1.7 倍，TPOT 吞吐/vCPU/美元提升 1.4x–1.7x，每小时价格更低。
Hugging Face BlogAI 评分2626 如何在 Intel CPU 上三步跑起 VLM：SmolVLM + Optimum Intel + OpenVINO 教程
Hugging Face 发布教程，介绍用 Optimum Intel 和 OpenVINO 在 Intel CPU 上本地运行视觉语言模型（VLM）的三步流程：将 HuggingFaceTB/SmolVLM2-256M-Video-Instruct 转换为 OpenVINO IR、用量化配置做权重量化（INT8）或静态量化，再执行推理。
Ahead of AI · Sebastian RaschkaAI 评分4949 详解 LLM 评估的 4 种主要方法（附从零实现代码）
LLM 评估实践中主要有四种方法：选择题基准、验证器、排行榜和 LLM 评委，可归为基于基准与基于判断两类。选择题基准以 MMLU 为代表，覆盖 57 个学科、约 1.6 万道题，按准确率计分，如 16000 题答对 14000 题即 87.5%。文中用纯 PyTorch 从零实现的 Qwen3 0.6B（约需 1.5 GB 内存）演示了 MMLU 评分流程。
Hugging Face BlogAI 评分3131 用 Core ML 和 dots.ocr 实现 SOTA OCR：将 3B 模型转换到端侧运行
Hugging Face 发布三部分系列文章，讲解如何用 Core ML 与 MLX 将 RedNote 的 3B 参数 OCR 模型 dots.ocr 转换到端侧运行，该模型在 OmniDocBench 上超过 Gemini 2.5 Pro。
Hugging Face BlogAI 评分2424 在 Intel Core Ultra 上加速 Qwen3-8B 智能体：用深度剪枝草稿模型提升推理速度
Hugging Face 用 OpenVINO.GenAI 在 Intel Core Ultra 上以 Qwen3-0.6B 作草稿模型对 Qwen3-8B 做投机解码，生成速度提升约 1.3 倍。
Hugging Face BlogAI 评分3939 VibeGame：探索 Vibe Coding 游戏开发
针对 AI 编程开发游戏时代码库膨胀导致模型性能下降的问题，作者推出 VibeGame——一个基于 three.js、rapier 和 bitecs 构建的高层声明式游戏引擎。
Hugging Face Blog精选AI 评分6060 Smol2Operator：面向计算机使用 GUI Agent 的后训练方案
Hugging Face 发布 Smol2Operator，用两阶段后训练把无 GUI 定位能力的 SmolVLM2-2.2B-Instruct 训练成可理解并操作图形界面的智能体。
推荐理由：完整开源了两阶段后训练配方与数据工具，读者可据此把无 GUI 定位能力的小型 VLM 训练成可操作的界面智能体。
Hugging Face BlogAI 评分3636 Hugging Face 推出 SyGra：为 LLM 和 SLM 构建数据的一站式框架
Hugging Face 推出低代码/无代码框架 SyGra，用于为 LLM 和 SLM 简化数据集的创建、转换与对齐，覆盖 Q&A 生成、DPO 偏好对、推理增强、RAG 长上下文构建及跨语言转换等场景。SyGra 提供 Python 库，支持 vLLM、Hugging Face TGI、Triton、Ollama 等多种推理后端，让用户专注提示词工程而非繁琐的脚本管线。
Hugging Face Blog精选AI 评分6060 Hugging Face 分享 gpt-oss 在 transformers 中可用的优化技巧
Hugging Face 介绍其为 OpenAI gpt-oss 系列模型升级 transformers 的相关技术，包括可从 Hub 下载的零构建 Kernels、MXFP4 量化、张量并行、专家并行、动态滑动窗口缓存与连续批处理等。
推荐理由：Hugging Face 公开 gpt-oss 适配 transformers 的升级细节，读者可据此判断量化、并行与缓存优化如何落地。
Hugging Face BlogAI 评分4949 Hugging Face 用 Jupyter Notebook 训练 LLM 推理：Jupyter Agents 微调 Qwen3-4B
Hugging Face 构建 Jupyter Agent，让模型直接在 Jupyter Notebook 中执行代码完成数据分析任务，并以 Qwen3-4B-Thinking-2507 为基线做微调。通过将脚手架精简到约 200 行代码，DABStep 简单任务准确率从 44.4% 提升至 59.7%。该基准上现有最强模型 Claude 4 Sonnet 在困难任务上准确率不足 20%。
Ahead of AI · Sebastian RaschkaAI 评分3333 从零理解与实现 Qwen3：纯 PyTorch 复现 Dense 与 MoE 架构
Sebastian Raschka 发布教程，用纯 PyTorch 从零实现 Qwen3 的 Dense 与 Mixture-of-Experts 架构。
Hugging Face Blog精选AI 评分6262 如何用 PyTorch AoT 编译让 ZeroGPU Spaces 提速
Hugging Face 介绍在 ZeroGPU Spaces 上用 PyTorch 提前编译（AoT）加速模型推理的方法，Flux、Wan、LTX 等模型可获得 1.3× 至 1.8× 的提速。
推荐理由：Hugging Face 官方给出在 ZeroGPU Spaces 上启用 AoT 编译的完整步骤与避坑细节，并验证了 1.3–1.8 倍的生成加速，对需要优化 GPU demo 的开发者有直接参考价值。
Hugging Face BlogAI 评分4141 用 Claude 结合 HF Mirror 生成图像：接入 FLUX.1 Krea 与 Qwen-Image
HF Mirror 发文介绍如何把 Claude 连接到 HF Mirror Spaces 来生成图像，并推荐专注自然真实感的 FLUX.1 Krea [dev] 和擅长文字渲染的 Qwen-Image。
Hugging Face BlogAI 评分4343 Hugging Face 发布 Research Tracker MCP：如何用自然语言连接 AI 与研究工具
Hugging Face 推出 Research Tracker MCP，让 AI 通过自然语言调用研究工具，自动在 arXiv、GitHub 和 Hugging Face 之间检索论文、代码与模型。
Hugging Face BlogAI 评分5252 从零到 GPU：构建与规模化生产级 CUDA Kernel 指南
Hugging Face 发布 kernel-builder 使用指南，演示如何从零编写一个 CUDA kernel（以 RGB 转灰度为例），将其注册为原生 PyTorch 算子并发布到 Hugging Face Hub。
Ahead of AI · Sebastian RaschkaAI 评分7070 从 GPT-2 到 gpt-oss：架构演进与 Qwen3 对比分析
Sebastian Raschka 通读 gpt-oss-120b 与 gpt-oss-20b 代码和技术报告后，梳理了从 GPT-2 到 gpt-oss 的架构变化，包括移除 Dropout、改用 RoPE、SwiGLU、Mixture-of-Experts、GQA、滑动窗口注意力和 RMSNorm。
Hugging Face BlogAI 评分4343 Hugging Face Accelerate 发布 ND-Parallel 多 GPU 训练指南
Hugging Face Accelerate 联合 Axolotl 集成 ND-Parallel，可在训练脚本中自由组合数据并行、FSDP、张量并行和上下文并行等策略，通过 ParallelismConfig 类配置各项并行度。
Hugging Face BlogAI 评分4343 TRL 为视觉语言模型带来 MPO、GRPO 与 GSPO 对齐方法
Hugging Face 的 TRL 新增 Mixed Preference Optimization（MPO）、GRPO 和其变体 GSPO 三种视觉语言模型对齐方法，并扩展 RLOO、Online DPO 支持 VLM。
Hugging Face BlogAI 评分3434 用 Python 实现 MCP Server：基于 Gradio 与 IDM-VTON 的 AI 购物助手
Hugging Face 博客演示了如何用 Gradio 的 MCP 集成在 Python 中搭建 AI 购物助手，只需在 launch() 中设置 mcp_server=True，Gradio 便会把 Python 函数自动转换为带名称、描述和输入 schema 的 MCP 工具，并支持实时进度通知与文件上传。
Hugging Face BlogAI 评分3737 Hugging Face 详解 Parquet Content-Defined Chunking，加速 Hub 上传下载
Parquet Content-Defined Chunking（CDC）已在 PyArrow 和 Pandas 中可用，可在 HF 的 Xet 存储层上对 Parquet 文件高效去重，只上传或下载变更的数据块。
Hugging Face BlogAI 评分5454 Hugging Face 给出 Flux 上 LoRA 快速推理方案，最高提速 2.23 倍
Hugging Face 博客给出用 Diffusers 和 PEFT 加速 Flux.1-Dev 上 LoRA 推理的优化方案，组合 Flash Attention 3、torch.compile 和 FP8 量化，在 H100 上相对基线提速 2.23 倍。
Hugging Face BlogAI 评分2222 Arc Institute 虚拟细胞挑战赛入门指南：用模型预测基因沉默效应
Arc Institute 发起 Virtual Cell Challenge，要求参赛者训练模型预测在部分未见过的细胞类型中沉默某个基因的效果，即"上下文泛化"。
Hugging Face BlogAI 评分3232 Hugging Face 打造 HF Mirror MCP Server：用 Streamable HTTP 无状态部署接入 Hub
Hugging Face 开发了 hf.co/mcp 的 MCP Server，让 AI 助手通过一个 URL 远程访问 Hub 与 Spaces 上数千个 AI 应用，并支持用户按需自定义工具。生产环境选择 MCP 的 Streamable HTTP 传输，采用无状态、Direct Response 配置；开源代码同时支持 STDIO、SSE 与 Streamable HTTP。
Hugging Face BlogAI 评分5050 Hugging Face 详解机器人异步推理：解耦动作预测与执行，任务完成提速约 2 倍
Hugging Face 发布博客介绍机器人异步推理，将动作预测与动作执行解耦，让机器人在 PolicyServer 计算下一段动作时继续执行当前动作队列，从而消除等待推理的空闲时间。
Hugging Face BlogAI 评分3737 Hugging Face 与 AMD 为 MI300X 打造自定义内核，加速 Llama 3.1 405B FP8 推理
Hugging Face 与 AMD 合作，为 MI300X 编写开源优化内核，提升 Llama 3.1 405B 在 FP8 下用 VLLM 的推理性能。三个自定义内核——融合残差连接、RMS norm 与 FP8 转换，融合 SwiGLU 激活与 FP8 转换，以及 Skinny GEMM——带来显著加速，测量基于输入 1、输出 128 的解码场景。
Hugging Face BlogAI 评分4242 用 Gradio MCP Servers 为 LLM 增加新技能
Hugging Face 博客介绍如何通过 Gradio MCP Servers 为 LLM 扩展能力。Gradio 从 5.28.0 版本起支持 MCP 协议，使 Hugging Face Spaces 上的数千个 AI 应用成为 LLM 可直接调用的工具。
Hugging Face BlogAI 评分3737 Hugging Face 详解高效多模态数据管道：从 Padding 浪费到背包问题打包
Hugging Face 在 nanoVLM 项目中发现，训练中约 60% 的 batch 被无用的 padding token 占据，GPU 大量空转。其博客给出五阶段数据管道方案：从朴素 padding、固定长度裁剪，到用背包问题（knapsack）动态打包序列，并借助 IterableDataset 与生产者-消费者队列实现多模态数据的按需组批，尽量减少填充浪费。
Hugging Face BlogAI 评分1111 HF Mirror 生产基础设施背后的三大关键告警
HF Mirror 基础设施团队公开支撑其生产环境的三类核心告警：NAT 网关吞吐量过高告警用于监控出网流量，可在流量激增或重构时触发以优化成本；Hub 请求日志归档成功率告警依托 Filebeat、Logstash 与 Elasticsearch 组成的日志管道，保障模型使用数据的采集与归档。
Hugging Face BlogAI 评分2828 用 Sentence Transformers 训练和微调稀疏嵌入模型
Sentence Transformers 现已支持训练和微调稀疏嵌入模型，微调后的 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 成本低廉，尤其适合混合搜索和检索重排场景。
Hugging Face Blog精选AI 评分6565 在消费级硬件上微调 FLUX.1-dev：QLoRA 与 FP8 实践
Hugging Face 发布教程，演示用 diffusers 库以 QLoRA 在单卡上微调 FLUX.1-dev，峰值显存约 9GB，可学习 Alphonse Mucha 艺术风格。
推荐理由：以 FLUX.1-dev 为例给出 QLoRA、8-bit 优化器、梯度检查点等组合，把微调峰值显存压到约 9GB。
Hugging Face BlogAI 评分4040 长提示词如何阻塞其他请求：优化 LLM 性能
TNG 在 24 块 H100 上自托管大量 LLM，服务超 50 个应用、每天消耗逾 1 亿 token 并生成超 1000 万 token。由于 vLLM 默认的 chunked-prefill 会为单个请求顺序调度 prefill，一个长提示词即可阻塞后续请求的 prefill 队列，抬高首 token 延迟。
Hugging Face BlogAI 评分5151 NVIDIA 教程：如何为 LeRobot SO-101 机械臂微调 Isaac GR00T N1.5
NVIDIA 发布 Isaac GR00T N1.5 后给出教程，演示如何用单台 LeRobot SO-101 机械臂的遥操作数据对模型做 post-training 微调。
Hugging Face BlogAI 评分2222 nanoVLM 从零实现 KV Cache，生成提速 38%
Hugging Face 的 nanoVLM 仓库从零实现了 KV Caching，使生成速度提升 38%。nanoVLM 是一个用纯 PyTorch 训练自定义视觉语言模型的精简代码库，KV Cache 在 Attention 块、语言模型层和生成循环三处启用，把逐步生成从全序列重算改为增量更新。文中的经验适用于所有自回归语言模型生成。
Hugging Face BlogAI 评分2727 Arm CPU 上用 Stable Audio Open 实现实时 AI 音效生成
Arm 工程师 Michael Gamble 用 Stability AI 的 Stable Audio Open 模型，在 Arm CPU 上构建了完全本地运行的个人音效生成工具，无需 GPU 和云端推理，几秒内即可根据文字提示生成 .wav 文件并直接送入 Ableton Live。
Hugging Face BlogAI 评分1212 Liger GRPO 结合 TRL 在 DeepSpeed ZeRO3 下出现 shape mismatch
有用户在 bf16 精度下用 Qwen2.5-0.5B-Instruct 测试 Liger GRPO loss 搭配 DeepSpeed ZeRO3，训练时在 liger_kernel 的 grpo_loss 前向计算中触发 shape mismatch 报错。
Hugging Face Blog精选AI 评分6464 Hugging Face 发布 Python Tiny Agents：约 70 行代码实现 MCP 智能体
Hugging Face 发布 Python 版 Tiny Agents，通过扩展 huggingface_hub 的 MCPClient 让智能体从 MCP 服务器拉取工具并传给 LLM，核心代码约 70 行。
推荐理由：官方教程给出 70 行搭 MCP 智能体的完整配置与代码路径，可直接照此复现。
Hugging Face Blog精选AI 评分6161 Hugging Face 发布 nanoVLM：纯 PyTorch 训练视觉语言模型的最简仓库
Hugging Face 发布 nanoVLM，一个纯 PyTorch 的轻量工具包，可在免费 Colab 上训练视觉语言模型，灵感来自 nanoGPT。其视觉骨干采用 Google SigLIP 编码器，语言骨干沿用 Llama 3 架构，通过模态投影模块对齐图文嵌入；训练脚本 train.py 集成数据加载、模型初始化与优化，并对模态投影和主干设置两组不同学习率。
推荐理由：官方博客给出 nanoVLM 的架构与训练流程细节，可用于理解 VLM 图文对齐与轻量训练实践。
Hugging Face BlogAI 评分4949 Hugging Face Diffusers 中的量化后端探索：bitsandbytes、GGUF、torchao、Quanto 与 FP8
Hugging Face 博客详解 Diffusers 直接集成的多种量化后端，包括 bitsandbytes、GGUF、torchao、Quanto 和原生 FP8，并以 Flux-dev 演示。