Reachy Mini 实现完全本地语音对话
Hugging Face 博客介绍如何让 Reachy Mini 的语音对话全流程本地运行，使用其 speech-to-speech 级联管线（VAD → STT → LLM → TTS），无需云端、API key 或数据外传。
#部署/工程
#部署/工程
今日 12 条Hugging Face BlogAI 评分5656
Hugging Face BlogAI 评分3535 Hugging Face 详解 AI 智能体术语：Model、Scaffolding、Harness 到底怎么分
Hugging Face 发布 AI 智能体术语表，厘清 model、scaffolding、harness、agent、context engineering、sub-agents 等常被混用的概念。
Hugging Face BlogAI 评分4242 PaddleOCR 3.5 发布：可用 Transformers 作为推理后端运行 OCR 与文档解析
PaddleOCR 3.5 支持通过设置 engine="transformers"，让 PP-OCRv5、PaddleOCR-VL 1.5 等模型以 Hugging Face Transformers 作为推理后端运行，并可通过 engine_config 配置 dtype、设备与 attention 实现。
Ahead of AI · Sebastian RaschkaAI 评分3737 LLM 架构最新进展：Gemma 4 的 KV Sharing、mHC 与压缩注意力
近期开放权重模型的新架构集中解决长上下文效率问题：Gemma 4 的 E2B/E4B 变体采用跨层 KV sharing 并复用 KV 张量以压缩缓存，ZAYA1 引入压缩卷积注意力，Laguna XS.2 采用逐层注意力预算，DeepSeek V4 则结合 mHC 与压缩注意力。随着推理模型和智能体工作流保留更多 token，KV cache 大小、内存流量与注意力开销已成为主要瓶颈。
Google DeepMindAI 评分3030 Google DeepMind 与新加坡达成国家级 AI 合作，落地医疗、教育与气候项目
Google DeepMind 与新加坡政府达成国家级 AI 合作，在医疗、科研、教育和气候领域推出新项目。合作探索 AI 辅助临床的"三方诊疗"模式，并用 AlphaFold、Google Earth 加速东南亚疫情研究，另向 Philanthropy Asia Alliance 的健康联盟提供 700 万美元资助。
Google DeepMind精选AI 评分6060 Google DeepMind 的 WeatherNext 如何帮助美国国家飓风中心预测飓风 Melissa 登陆牙买加
Google DeepMind 与 Google Research 的 AI 天气模型 WeatherNext 帮助美国国家飓风中心（NHC）提前五天以 80% 置信度预测飓风 Melissa 将在牙买加以 Category 5 强度登陆，三天的置信度接近 100%，这是首次从 Category 1 风速起步预测风暴达到 Category 5 强度。
推荐理由：Google DeepMind 披露 WeatherNext 在飓风 Melissa 预警中的实战表现，读者可看到 AI 气象模型对路径与强度的同时预测能力。
Hugging Face Blog精选AI 评分6464 Hugging Face 详解连续批处理中的异步化：用 CUDA 流与事件消除 CPU-GPU 串行等待
Hugging Face 博客发布第二篇高效 LLM 推理系列文章，讲解如何在连续批处理中实现异步化：将 CPU 的批准备与 GPU 的计算解耦，用 H2D、compute、D2H 三个非默认 CUDA 流配合 CUDA event 跨流同步，并处理双缓冲防数据竞争与 carry-over 传递新 token。
推荐理由：以 CPU 与 GPU 串行浪费为主线，给出三流分离与 CUDA event 同步的异步批处理实现思路，可迁移到长序列推理部署优化。
Hugging Face BlogAI 评分1919 AWS 上基础模型训练与推理的构建模块
AWS 撰文解析基础模型训练与推理的系统架构，指出扩展已从预训练单曲线演变为预训练、后训练与测试时计算三条路线，三者对加速计算、高带宽低延迟网络和分布式存储提出趋同的基础设施需求。
Berkeley AI ResearchAI 评分4040 自适应并行推理：高效推理扩展的下一个范式
伯克利 AI 研究团队梳理了从自一致性、Best-of-N、Tree of Thoughts 到 ThreadWeaver、ParaThinker、GroupThink、Hogwild!
Hugging Face BlogAI 评分3636 vLLM V0 迁移到 V1：RL 训练中先对齐正确性再改目标函数
PipelineRL 将推理引擎从 vLLM V0 迁移到 V1 时出现训练-推理不匹配，修复 logprobs 语义、V1 运行时默认值、inflight 权重更新路径和 fp32 lm_head 四处后 V1 与 V0 参考轨迹重新对齐。
Hugging Face BlogAI 评分2121 DeepInfra 成为 HF Mirror Inference Providers 支持的服务商
DeepInfra 已作为推理服务商接入 HF Mirror Hub，平台上的 serverless 推理生态进一步扩大。
Hugging Face BlogAI 评分5353 如何用 OpenAI Privacy Filter 构建可扩展 Web 应用
OpenAI 本周在 Hub 上发布 Privacy Filter，一个开源 PII 检测器，单次前向传播即可在 128k 上下文中标注八类信息。它是 1.5B 参数、50M 激活参数的模型，Apache 2.0 许可，在 PII-Masking-300k 基准上达到 SOTA。
Hugging Face BlogAI 评分4646 如何在 Chrome 扩展中使用 Transformers.js
Hugging Face 发布基于 Gemma 4 E2B 的 Transformers.js 浏览器扩展，演示如何在 Manifest V3 约束下本地运行 AI。
Google DeepMind精选AI 评分6868 Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构
Google DeepMind 发布 Decoupled DiLoCo，一种将训练拆成多个解耦计算“岛屿”、异步传输数据的分布式架构，可在远距离数据中心间以更低带宽训练大语言模型。
推荐理由：原文用混沌工程和 12B 模型跨四区域实测说明解耦训练如何隔离故障并放宽带宽要求。
Ahead of AI · Sebastian RaschkaAI 评分4040 我理解 LLM 架构的工作流：从技术报告到配置文件与参考实现
Sebastian Raschka 分享了他绘制 LLM 架构图的工作流：先从官方技术报告入手，但如今论文细节常不如以往，尤其工业实验室的开源权重模型。若模型权重发布在 Hugging Face Model Hub 且被 Python transformers 库支持，可直接查看 config 文件与参考实现，"能跑通的"代码不会说谎。
Hugging Face BlogAI 评分5555 Hugging Face 发布 transformers 到 mlx-lm 移植 Skill 与测试框架
Hugging Face 发布一个 Skill 和配套的非智能体测试框架，帮助把语言模型从 transformers 移植到 mlx-lm，让模型加入 transformers 后能很快在 MLX 上可用。
Google DeepMind精选AI 评分7171 Google DeepMind 发布 Gemini Robotics-ER 1.6
Google DeepMind 发布 Gemini Robotics-ER 1.6，这是其面向机器人的推理优先模型的一次重大升级，增强了空间推理与多视角理解，并新增仪表读数能力。
推荐理由：官方给出新版本在空间推理、成功检测与仪表读数上的能力变化，以及 API 与 AI Studio 的开放入口。
Hugging Face BlogAI 评分4444 Safetensors 加入 PyTorch 基金会
Safetensors 已加入 PyTorch 基金会，成为 Linux 基金会下托管项目，与 DeepSpeed、Helion、Ray、vLLM 和 PyTorch 并列，商标、代码仓库与治理权归属 Linux 基金会而非任何单一公司。
Ahead of AI · Sebastian RaschkaAI 评分5050 编码智能体的六大组件：Claude Code、Codex CLI 等 Agent 框架如何运作
编码智能体的能力差异更多来自模型外围的 agentic harness，而非模型本身。Claude Code、Codex CLI 等编码工具本质是把 LLM 包在应用层里的编码 harness，负责仓库上下文、工具设计、提示词缓存稳定性、记忆与长会话连续性。文章将其拆解为模型家族、agent 循环与运行时支持三层，循环内含 observe、inspect、choose、act 四步。
Hugging Face Blog精选AI 评分6969 Gradio 发布 gradio.Server，支持任意自定义前端搭配 Gradio 后端
Gradio 发布 gradio.Server，扩展 FastAPI，在原路由基础上叠加 Gradio 的 API 引擎，提供排队、SSE 流式、并发控制和 gradio_client 兼容。
推荐理由：Gradio 新 Server 模式把排队、并发与 ZeroGPU 能力开放给任意前端框架，读者可据此评估自建前端的后端选型。
Hugging Face Blog精选AI 评分6363 如何在一天内构建领域专用嵌入模型
NVIDIA 发布一套在单张 GPU 上不到一天完成领域嵌入模型微调的流程，基于 Llama-Nemotron-Embed-1B-v2，无需人工标注。流程用 nemotron-3-nano-30b-a3b 从领域文档生成合成问答数据、挖掘难负样本并做多跳展开，再用对比学习微调，实测 nDCG@10 与 Recall@10 均提升约 10%。
推荐理由：NVIDIA 给出了从合成数据、难负样本挖掘到 ONNX/TensorRT 部署的完整嵌入模型微调配方，附真实评测数字。
Hugging Face BlogAI 评分5656 Hugging Face 推出 Hub 上的 Storage Buckets 可变对象存储
Hugging Face 在 Hub 上推出 Storage Buckets，一种面向生产 ML 中途产物的可变对象存储，可浏览、通过 Python 调用或用 hf CLI 管理。
Hugging Face BlogAI 评分4848 Hugging Face 调查 16 个开源 RL 库：异步训练如何让 GPU 不再空转
Hugging Face 对 16 个开源强化学习库做了横评，梳理出异步 RL 训练的通用架构：把推理与训练拆到不同 GPU 池、用 rollout buffer 连接并异步同步权重，避免生成期训练 GPU 空转。
Hugging Face BlogAI 评分3737 Ulysses 序列并行：如何用百万级 Token 上下文训练大模型
Snowflake AI Research 的 Ulysses 序列并行（属 Arctic Long Sequence Training 协议）通过将注意力头拆分到多 GPU，解决超长上下文的显存瓶颈。
Hugging Face BlogAI 评分4343 Hugging Face 发布嵌入式机器人 AI 指南：数据集录制、VLA 微调与端侧优化
Hugging Face 发布 NXP 的嵌入式机器人 AI 实操指南，覆盖数据集录制、VLA 策略微调（ACT 与 SmolVLA）及端侧优化。指南建议采用顶视、夹爪、左视三摄像头配置，按 10×10 cm 划分 11 个工作区簇、每簇至少录制 10 个 episode，并用 20% 恢复型 episode 提升成功率。
Hugging Face BlogAI 评分5252 Hugging Face 解读 transformers 如何支持 MoE 架构
Hugging Face 发布长文，介绍 transformers 库为支持 MoE 稀疏架构所做的改造，涵盖权重加载重构、专家后端、专家并行与 MoE 训练四部分。
Hugging Face Blog精选AI 评分6262 Gradio 6 的 gr.HTML 支持自定义模板，可一句话生成完整 Web 应用
Gradio 6 为 gr.HTML 加入自定义模板、作用域 CSS 和 JavaScript 交互能力，前端、后端与状态管理可以全部写进单个 Python 文件，无需构建步骤，几秒内部署到 HF Space。
推荐理由：Gradio 6 的 gr.HTML 打通了单文件前后端与状态同步，读者可据此判断 LLM 一句话生成完整 Web 应用的工作流是否可行。
Hugging Face Blog精选AI 评分6969 Hugging Face 发布 CUDA 内核 Agent 技能，让 Codex 与 Claude 自动生成生产级 kernel
Hugging Face 构建了一个 agent skill，教编码智能体编写生产级 CUDA kernel，并让 Claude 和 Codex 针对 diffusers 的 LTX-Video 与 transformers 的 Qwen3-8B 两个真实目标端到端生成了可运行的 kernel，包含正确的 PyTorch 绑定与基准脚本。
推荐理由：Hugging Face 把 CUDA kernel 开发知识封装成可安装的 Agent 技能，并给出两组真实基准，读者可据此判断它在自有项目中的复用价值。
Hugging Face Blog精选AI 评分7070 Transformers.js v4 上线 NPM，采用全新 WebGPU 运行时
Transformers.js v4 已发布到 NPM，核心改动是采用完全用 C++ 重写的 WebGPU 运行时，同一份代码可在浏览器、Node、Bun 和 Deno 中运行。
推荐理由：原文列出 v4 的 WebGPU 运行时重写、构建与工程改动，读者可判断浏览器和 Node 端本地推理的可用边界。
Hugging Face BlogAI 评分3939 中国开源 AI 生态的架构选择：从 DeepSeek 走向何方
继 2025 年 1 月「DeepSeek 时刻」后，中国开源社区在架构与硬件上集体转向 MoE，Kimi K2、MiniMax M2、Qwen3 等均采用该架构。
Hugging Face BlogAI 评分4343 解锁 GPT-OSS 的智能体 RL 训练：一次实践复盘
Hugging Face 博客复盘了用 verl 框架对 GPT-OSS-20B 做智能体强化学习训练的过程，该模型此前已被验证性能接近 OpenAI o3-mini 和 o4-mini，但尚未验证是否适合智能体 RL 训练。
Hugging Face BlogAI 评分4545 AssetOpsBench：连接 AI 智能体基准测试与工业现实的桥梁
Hugging Face 发布 AssetOpsBench，一个面向工业资产管理场景的智能体评测基准，包含 2.3M 传感器遥测点、140+ 场景、4.2K 工单和 53 种结构化故障模式。
Hugging Face BlogAI 评分4242 微软 DIFF Transformer V2 发布：解码速度追平标准 Transformer
微软发布 Differential Transformer V2（DIFF V2），在保持 KV head 数量不变的前提下将 query head 翻倍，解码速度与标准 Transformer 相当，且无需自定义 attention kernel。
OpenAI NewsAI 评分2626 OpenAI 如何用 Codex 加速工程开发
OpenAI 详解其内部团队如何借助 Codex 理解代码、重构系统、提升性能并加快工程节奏，从而改善整体开发工作流。
Hugging Face Blog精选AI 评分6868 NVIDIA 发布 Cosmos Reason 2，面向物理 AI 的开源推理视觉语言模型
NVIDIA 发布面向物理 AI 的开源推理视觉语言模型 Cosmos Reason 2，提供 2B 和 8B 两种参数规模，在 Physical AI Bench 和 Physical Reasoning 榜单上位列开源模型第一。
推荐理由：Cosmos Reason 2 给出 2B/8B 开源权重的具体升级项与评测数据，可据此判断物理 AI 推理模型的当前水位。
Hugging Face BlogAI 评分5454 llama.cpp 新增模型管理功能：router 模式支持动态加载与切换模型
llama.cpp server 新增 router 模式，无需重启即可动态加载、卸载和切换多个模型。该功能回应了把 Ollama 式模型管理引入 llama.cpp 的需求，采用多进程架构，每个模型独立运行，单个模型崩溃不影响其他模型。
Hugging Face BlogAI 评分2626 Hugging Face 发布 swift-huggingface：面向 HF Mirror Hub 的完整 Swift 客户端
Hugging Face 发布 Swift 包 swift-huggingface，为 HF Mirror Hub 提供完整客户端，可独立使用，后续将替换 swift-transformers 现有的 HubApi 实现。
Hugging Face Blog精选AI 评分7070 Hugging Face 发布 Transformers v5：简化模型定义并强化推理与量化
Hugging Face 发布 Transformers v5 首个候选版本 v5.0.0rc-0，主题为互操作性。官方称该库每日 pip 安装量已超 300 万次，累计安装超 12 亿次，支持的模型架构从 v4 时的 40 个增至 400 余个，Hub 上兼容的模型 checkpoint 超过 75 万个。
推荐理由：官方长文给出 v5 在模块化定义、推理接口与量化上的改动，读者可据此判断迁移成本与生态兼容性。
Hugging Face BlogAI 评分4343 从第一性原理理解 continuous batching：LLM 推理吞吐优化是如何推导出来的
Hugging Face 博客从注意力机制与 KV 缓存出发，用吞吐量优化推导出 continuous batching：通过并行处理多段对话、完成即换出来提升高负载场景下的推理性能。
Hugging Face BlogAI 评分3434 Tavily 如何打造达到 SOTA 的深度研究智能体
Tavily 分享了其深度研究智能体的构建经验，该系统通过自研 agent harness 在上下文管理、工具调用与错误处理上做优化，达到 SOTA。团队曾在七个月前彻底放弃第一版架构重写系统，原因是复杂设计在下一代模型出现后成为瓶颈。