Hugging Face 推出 RTEB:面向真实场景的检索嵌入评测基准
Hugging Face 发布 Retrieval Embedding Benchmark(RTEB)beta 版,用公开与私有数据集混合的方式评测嵌入模型的真实检索准确率。RTEB 覆盖 20 种语言及法律、医疗、代码、金融等领域,每个数据集至少 1k 文档和 50 queries,默认榜单指标为 NDCG@10,私有数据集由 MTEB 维护者评测。
Hugging Face 发布 Retrieval Embedding Benchmark(RTEB)beta 版,用公开与私有数据集混合的方式评测嵌入模型的真实检索准确率。RTEB 覆盖 20 种语言及法律、医疗、代码、金融等领域,每个数据集至少 1k 文档和 50 queries,默认榜单指标为 NDCG@10,私有数据集由 MTEB 维护者评测。
NVIDIA 发布 Nemotron-Personas-Japan,一个面向日本主权 AI 的开放合成画像数据集,共 600 万条自然日语画像,采用 CC BY 4.0 授权,可商用与非商用。
Hugging Face 的 Swift 库 swift-transformers 发布 1.0,将 Tokenizers 和 Hub 升级为独立顶级模块,并采用支持有状态模型与 MLTensor 的现代 Core ML API。
Hugging Face 发布 Smol2Operator,用两阶段后训练把无 GUI 定位能力的 SmolVLM2-2.2B-Instruct 训练成可理解并操作图形界面的智能体。
推荐理由:完整开源了两阶段后训练配方与数据工具,读者可据此把无 GUI 定位能力的小型 VLM 训练成可操作的界面智能体。
Meta 发布 GAIA 的后续基准 Gaia2 以及开源框架 Meta Agents Research Environments(ARE),用于运行、调试和评测智能体。
推荐理由:Meta 发布 Gaia2 基准与 ARE 环境源码,给出多模型在模糊、噪声与时间推理任务上的实测结果,便于对照自身智能体能力。
Cloud Security Alliance 与 Noma Security 牵头,Haize Labs 和 Harmonic Security 参与,推出 RiskRubric.ai,对模型按透明度、可靠性、安全、隐私、安全和声誉六大维度打分并给出 A-F 等级。
Hugging Face 宣布 Public AI 加入 HF Mirror Inference Providers 生态,用户可在模型页和 JS/Python 客户端 SDK 中直接调用其托管的公共与主权模型,如瑞士 AI Initiative 的 Apertus-70B。
Writer 发布 Palmyra-mini 系列三款开源模型,参数规模 1.5B 至 1.7B,包括非思考基础模型 palmyra-mini 与两款经 Chain of Thought 训练的推理变体 palmyra-mini-thinking-a、palmyra-mini-thinking-b。
Hugging Face 介绍其为 OpenAI gpt-oss 系列模型升级 transformers 的相关技术,包括可从 Hub 下载的零构建 Kernels、MXFP4 量化、张量并行、专家并行、动态滑动窗口缓存与连续批处理等。
推荐理由:Hugging Face 公开 gpt-oss 适配 transformers 的升级细节,读者可据此判断量化、并行与缓存优化如何落地。
Together AI 与 Hugging Face 联合推出新能力,可在 Together AI 基础设施上微调 Hugging Face Hub 上任何兼容的 LLM,并通过加入 hf_api_token 支持私有仓库,训练后指定 hf_output_repo_name 即可把模型回传 Hub。
Hugging Face Blog 介绍 mmBERT,一个在 1800 多种语言、3T+ tokens 文本上训练的大规模多语言编码器模型。它基于 ModernBERT 架构,采用 60→110→1833 语言的三阶段训练和从 30% 降到 5% 的动态掩码策略,首次在 XLM-R 基础上取得全面提升,推理吞吐量提升 2-4 倍并支持 8192 tokens。
推荐理由:mmBERT 把 ModernBERT 扩展到 1800 多种语言,并给出三阶段训练和低资源语言学习的可迁移方法。
Sebastian Raschka 发布教程,用纯 PyTorch 从零实现 Qwen3 的 Dense 与 Mixture-of-Experts 架构。
SandboxAQ 开源 Structurally Augmented IC50 Repository(SAIR),包含超 500 万个 AI 生成的高精度蛋白质-配体 3D 结构,每个结构都配有来自 ChEMBL 或 BindingDB 的实验测定 IC₅₀ 数据,以 CC BY 4.0 许可免费开放。
NVIDIA 发布 600 万多语言推理数据集 Nemotron Post-Training Dataset V2,将原有英文推理数据翻译为法语、西班牙语、德语、意大利语和日语五种语言,并保留原始英文推理链。
Hugging Face 发布 kernel-builder 使用指南,演示如何从零编写一个 CUDA kernel(以 RGB 转灰度为例),将其注册为原生 PyTorch 算子并发布到 Hugging Face Hub。
ExecuTorch 0.7 beta 将默认启用 Arm KleidiAI,为基于最新 Arm CPU 架构及大量旧款手机自动带来加速,开发者无需改代码即可通过 ExecuTorch 和 XNNPack 获得优化,实现更快的模型启动、更低延迟和更小内存占用。
Sebastian Raschka 通读 gpt-oss-120b 与 gpt-oss-20b 代码和技术报告后,梳理了从 GPT-2 到 gpt-oss 的架构变化,包括移除 Dropout、改用 RoPE、SwiGLU、Mixture-of-Experts、GQA、滑动窗口注意力和 RMSNorm。
Hugging Face Accelerate 联合 Axolotl 集成 ND-Parallel,可在训练脚本中自由组合数据并行、FSDP、张量并行和上下文并行等策略,通过 ParallelismConfig 类配置各项并行度。
Hugging Face 的 TRL 新增 Mixed Preference Optimization(MPO)、GRPO 和其变体 GSPO 三种视觉语言模型对齐方法,并扩展 RLOO、Online DPO 支持 VLM。
OpenAI 发布开源权重模型系列 gpt-oss,包含 117B 参数的 gpt-oss-120b 和 21B 参数的 gpt-oss-20b,均为采用 MXFP4 4-bit 量化的 MoE 模型,使用 Apache 2.0 许可。
推荐理由:Hugging Face 汇总了 gpt-oss 两个开源权重模型的参数、部署路径与生态适配情况,适合了解本地运行条件。
NVIDIA AI-Q Blueprint 在 DeepResearch Bench 的"LLM with Search"榜单上以 40.52 分登顶,成为得分最高的完全开源许可方案。
Hugging Face 推出 3LM(علم),首个专门评估阿拉伯语 LLM 在 STEM 与代码生成能力的多组件基准,包含 865 道真实 STEM 选择题、1744 道合成高难度题,以及译成阿拉伯语的 HumanEval+ 和 MBPP+ 代码任务。
Hugging Face 发布开源免费的实验追踪 Python 库 Trackio,提供本地 Gradio 仪表盘,并可将仪表盘同步到 Hugging Face Spaces 以 URL 或 iframe 分享。
Hugging Face 把 HF Mirror CLI 从 huggingface-cli 正式更名为 hf,命令按资源重新分组为 hf auth、hf cache、hf repo、hf upload、hf download 等,旧命令仍可用但会提示弃用警告。
Parquet Content-Defined Chunking(CDC)已在 PyArrow 和 Pandas 中可用,可在 HF 的 Xet 存储层上对 Parquet 文件高效去重,只上传或下载变更的数据块。
Hugging Face 博客给出用 Diffusers 和 PEFT 加速 Flux.1-Dev 上 LoRA 推理的优化方案,组合 Flash Attention 3、torch.compile 和 FP8 量化,在 H100 上相对基线提速 2.23 倍。
NVIDIA 推出面向 Hugging Face 的 NIM 推理微服务,可在单个 Docker 容器中部署超过 10 万个 LLM。NIM 会自动识别模型格式与量化类型(如 FP16、FP8、INT4),并在 NVIDIA TensorRT-LLM、vLLM 和 SGLang 之间选择后端,免去手工配置。
Consilium 是开发者在 Gradio Agents & MCP Hackathon 期间构建的多 LLM 平台,让 AI 模型通过结构化辩论讨论复杂问题并达成共识,支持多数投票和排序选择等决策模式。
Hugging Face 宣布把 Hub 存储后端从 Git LFS 迁移到 Xet,6 个月内已有 50 万个仓库、20 PB 数据迁入,超过 100 万用户在用。
Hugging Face 开发了 hf.co/mcp 的 MCP Server,让 AI 助手通过一个 URL 远程访问 Hub 与 Spaces 上数千个 AI 应用,并支持用户按需自定义工具。生产环境选择 MCP 的 Streamable HTTP 传输,采用无状态、Direct Response 配置;开源代码同时支持 STDIO、SSE 与 Streamable HTTP。
Hugging Face 发布博客介绍机器人异步推理,将动作预测与动作执行解耦,让机器人在 PolicyServer 计算下一段动作时继续执行当前动作队列,从而消除等待推理的空闲时间。
Hugging Face 与 AMD 合作,为 MI300X 编写开源优化内核,提升 Llama 3.1 405B 在 FP8 下用 VLLM 的推理性能。三个自定义内核——融合残差连接、RMS norm 与 FP8 转换,融合 SwiGLU 激活与 FP8 转换,以及 Skinny GEMM——带来显著加速,测量基于输入 1、输出 128 的解码场景。
Hugging Face 与 Pollen Robotics 联合发布开源机器人 Reachy Mini,Lite 版 399 美元、带计算与电池的 Compute 版 499 美元,预计约 90 天发货。
Hugging Face 发布 SmolLM3,一个 3B 全开源模型,训练于 11.2T tokens,支持英语、法语、西班牙语、德语、意大利语和葡萄牙语,上下文窗口达 128k。
推荐理由:Hugging Face 公开了 3B 模型的完整训练配方与数据配比,读者可了解小模型在长上下文和双模式推理上的工程路径。
SGLang 现已支持 Hugging Face transformers 作为后端,可直接运行任意 transformers 兼容模型,无需原生支持,通过设置 impl="transformers" 即可启用。
Hugging Face 发布教程,演示用 diffusers 库以 QLoRA 在单卡上微调 FLUX.1-dev,峰值显存约 9GB,可学习 Alphonse Mucha 艺术风格。
推荐理由:以 FLUX.1-dev 为例给出 QLoRA、8-bit 优化器、梯度检查点等组合,把微调峰值显存压到约 9GB。
Groq 正式加入 HF Mirror Hub 的 Inference Providers,为模型页面提供无服务器推理。Groq 支持 Meta Llama 4、Qwen QWQ-32B 等开源模型,其核心 LPU 专为 LLM 推理设计,延迟更低、吞吐更高。用户可在账户设置中配置 Groq API key 直连,或通过 HF 路由调用,PRO 用户每月获 $2 推理额度。
Hugging Face 推出 Kernel Hub,让 Python 库和应用直接从 Hub 加载预编译优化计算内核,用 `get_kernel("kernels-community/flash-attn")` 一行即可启用 FlashAttention,无需自行编译。
NVIDIA 发布 Isaac GR00T N1.5 后给出教程,演示如何用单台 LeRobot SO-101 机械臂的遥操作数据对模型做 post-training 微调。
Hugging Face 发布 ScreenSuite,称其为面向 GUI Agent 最全面的评测套件,整合 13 个基准,覆盖感知、Grounding、单步动作与多步智能体四类能力。
推荐理由:原文给出 13 个基准的构成与纯视觉评测设定,可据此了解 GUI Agent 评测如何统一与本地复现。