Hugging Face Hub 新增 Fireworks.ai 推理服务商,支持 DeepSeek-R1 等模型
Fireworks.ai 成为 Hugging Face Hub 支持的推理服务商,用户可直接在模型页面及整个 HF 生态中调用其无服务器推理,支持 deepseek-ai/DeepSeek-R1。
Fireworks.ai 成为 Hugging Face Hub 支持的推理服务商,用户可直接在模型页面及整个 HF 生态中调用其无服务器推理,支持 deepseek-ai/DeepSeek-R1。
Hugging Face 的 Xet 团队把内容定义分块(CDC)从理论推向生产,用于 Hub 上文件的上传与下载,部分场景提速 2-3 倍。方案在分块去重后聚合为最大 64MB 的块,使内容寻址存储条目减少 1000 倍,并用占全部 chunk 0.1% 的 key chunks 全局索引做查询。
推荐理由:原文给出块级聚合与 key chunks 的设计取舍,以及 gemma-2-9b-it-GGUF 仓库上传体积与耗时对比,可判断大文件传输的优化空间。
Hugging Face 用 24 小时复现 OpenAI Deep Research,并开源了所需的智能体框架。该框架基于 smolagents 的 CodeAgent,让智能体用代码而非 JSON 表达动作,在 GAIA 验证集上取得 55.15% 的成绩,高于此前开源框架 Magentic-One 的约 46%;同一设置改用 JSON 写动作后平均降至 33%。
推荐理由:原文给出了复现 OpenAI Deep Research 的开放框架与 GAIA 上的对比数字,可据此了解代码式智能体相较 JSON 方式的差异。
Hugging Face 在 Hub 模型页和 JS/Python 客户端 SDK 中接入 fal、Replicate、SambaNova、Together AI 四家无服务器推理供应商。
推荐理由:平台把四家无服务器推理供应商接入模型页与 SDK,读者可据此比较不同供应商的调用方式与计费路径。
Hugging Face 启动 Open-R1 项目,计划系统性复现 DeepSeek-R1 的数据与训练流程,补上官方未公开的数据集和训练代码。该计划分三步:蒸馏高质量推理数据集复现 R1-Distill 模型,复刻 DeepSeek 用于 R1-Zero 的纯强化学习流程,并打通基础模型到 SFT 再到 RL 的多阶段训练。项目还计划把数据集拓展到代码和医学等领域,并向社区开放代码与讨论。
推荐理由:DeepSeek-R1 开源权重但未公开数据与训练代码,该项目计划补上蒸馏与纯 RL 复现路径。
Hugging Face 为 smolagents 加上视觉支持,可直接在智能体流水线中使用视觉语言模型。图像既可以在 run 方法开始时以列表传入,由 TaskStep 的 task_images 属性保存,也可以通过 step_callbacks 在每一步把新截图写入 ActionStep 的 observation_images。
推荐理由:官方给出视觉能力接入智能体管线的两种方式,并附可运行的浏览器智能体示例,便于判断多模态 Agent 的落地路径。
FriendliAI 的推理基础设施已集成进 Hugging Face Hub,成为模型页"Deploy this model"按钮中的一个部署选项。
Hugging Face 为 Text Generation Inference(TGI)引入多后端架构,通过统一的 TGI 前端层接入 vLLM、llama.cpp、TensorRT-LLM 等推理引擎,用户可按模型、硬件和性能需求切换后端。
Hugging Face 发布 smolagents 库,让语言模型具备智能体能力,核心是 CodeAgent——智能体用代码而非 JSON 编写动作,并支持通过 E2B 在沙箱环境执行。
推荐理由:Hugging Face 官方介绍 smolagents 库的 CodeAgent 设计与上手方式,可作为编写代码动作智能体的参考。
Hugging Face 发布 Synthetic Data Generator,让用户用自然语言描述需求,经三步流程生成自定义数据集,目前支持文本分类和对话两类任务。
Hugging Face 上的 83 个开源模型现已通过 Amazon Bedrock Marketplace 提供,AWS 客户可直接部署用于生成式 AI 应用,底层由 Amazon SageMaker JumpStart 托管端点。
Hugging Face 博客介绍 Judge Arena 平台上线,用户可让两个 LLM 裁判对同一段模型输出打分并给出理由,再投票选出更认同的一方,投票结果按 Elo 分数汇总成公开榜单并每小时更新。
HF Mirror Hub 支持托管 TB 级数据集并配备 Dataset Viewer、全文搜索、排序与浏览器内 SQL Console,用户无需下载即可在线浏览和查询数据。
PyCharm 现已集成 Hugging Face,开发者可在 IDE 内右键 "Insert HF Model" 选择模型(如 microsoft/Phi-3.5-vision-instruct)并自动粘贴示例代码。
Argilla 2.4 推出无需代码的数据集构建功能,可直接从 Hugging Face Hub 导入数据集,通过 UI 定义问题并收集人工反馈。该功能支持从 Hub 上 230k 数据集中导入公开数据集,用于微调、评估和众包标注,部署在 Spaces 上默认启用 Hugging Face OAuth,便于社区协作。这是 Argilla 加入 Hugging Face 以来最具影响力的功能更新。
OpenAI 面向营销团队推广 AI 应用,帮助其将 AI 投入实际工作。原文未披露具体模型、功能或价格等细节。
Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 中发布 SynthID Text,可通过 logits processor 为 AI 生成文本添加水印,并用分类器检测。
推荐理由:SynthID Text 集成进 Transformers 后,给出了水印配置、生成与检测的完整接入方式及已知局限。
Hugging Face 发布 HUGS(Hugging Face Generative AI Services),一套零配置、经过优化的推理微服务,用于在自有基础设施中部署开源模型。
Hugging Face 发布 Transformers.js v3,新增 WebGPU 支持,官方称推理速度最高比 WASM 快 100 倍,只需在加载模型时设置 device: 'webgpu'。
推荐理由:官方发布浏览器端推理库大版本,WebGPU 与量化格式的变化直接影响前端模型部署方式。
dottxt 与 Hugging Face 联合发布 outlines-core 0.1.0,这是 outlines 结构化生成核心算法的 Rust 移植版,Python 绑定已开源并集成进 outlines。该版本带来约 2 倍的索引编译速度提升,并消除了 Numba JIT 首次运行的延迟,同时凭借 Rust 的内存安全与轻量化设计支持 Python 之外的更多语言绑定。
OpenAI 发布视频,展示 o1 推理模型如何帮助编程、战略与研究等领域的复杂问题求解。
Hugging Face 宣布 Gradio 5 稳定版发布,开发者可用几行 Python 构建面向生产环境的机器学习 Web 应用。新版本通过服务端渲染(SSR)提升加载速度,对按钮、标签页、滑块和聊天机器人界面做了设计更新,并加入低延迟流式能力,覆盖摄像头目标检测、视频流、实时语音转写与生成等场景。
OpenAI 发布文章,介绍如何用 AI 自动化并扩展财务运营。
HF Mirror 的 Daily Papers 页面已收录 3,700 多篇论文、订阅数超 12k,作者可一键认领论文并关联到自己的账号。该页面还支持论文提交、@作者实时讨论、@librarian-bot 推荐相似论文、多语言评论与自动翻译,并将模型、数据集、demo 等资源集中链接在论文页右侧。用户可通过页面顶部 Subscribe 按钮订阅每日更新(周末除外)。
Hugging Face 为 Hub 上的 Datasets 推出 SQL Console,可在数据集页面一键打开,用 DuckDB WASM 在浏览器内本地执行查询,无需后端依赖。支持完整 DuckDB SQL 语法与正则、列表、JSON、嵌入向量等内置函数,结果可导出为 parquet,公开数据集查询结果还能通过链接分享。内存上限约 3GB,暂不支持 hf:// 协议。
HuggingChat 发布 Community Tools 功能,用户可以把 HuggingFace 上任意公开 Space 转成模型可直接调用的工具,同时扩展了 HuggingChat 的模态能力,支持理解图像、生成视频和文本转语音模型。
Hugging Face 发布 Accelerate 1.0.0 的首个 release candidate,包已稳定近一年。1.0 加入 MS-AMP 和 TransformerEngine 的 FP8 支持、DeepSpeed 多模型编排(实验性)、大模型推理 API 的 torch.compile 支持等。
Hugging Face 与 Truffle Security 合作,将开源密钥检测工具 TruffleHog 接入平台。平台自动化扫描流水线新增第三类扫描——用 TruffleHog 扫描密码、token 和 API key,会在每次 push 时对新增或修改文件运行 trufflehog filesystem 命令,发现已验证密钥即邮件通知用户。
OpenAI 发布公告,将举办一场聚焦 GPT-4o 微调的线上研讨会(webinar)。活动主题为 Fine-Tuning GPT-4o,面向希望了解如何微调该模型的开发者。
Hugging Face 在 Transformers 中推出统一的工具调用 API,同一套代码可在 Mistral、Cohere、NousResearch 和 Llama 等模型上使用工具,无需或只需少量模型专属改动。工具以 JSON schema 定义,Python 函数传入后会自动转换为 schema,并配有完整文档和示例。目前模型响应格式仍需手动解析,这部分尚未统一。
推荐理由:原文给出了统一工具调用 API 的跨模型设计与 Transformers 代码示例,读者可据此判断现有工具调用代码的迁移成本。
OpenAI 发布视频,展示员工如何使用 ChatGPT Enterprise 高效分析数据并挖掘洞察,给出多个实际应用示例。
Hugging Face 在 2024 年安全功能盘点中梳理了 Hub 的现有安全能力:面向所有用户的细粒度 token、2FA、GPG 提交签名、组织访问控制和自动化安全扫描(ClamAV 恶意软件扫描、picklescan 与 trufflehog)。企业版 Hub 另有 SAML 2.0 / OIDC 单点登录、Resource Groups 和新增的组织 token 管理。
HF Mirror 面向 Enterprise Hub 组织推出 NVIDIA NIM API(无服务器),可用标准化 OpenAI API 对 Llama、Mistral 等开源模型运行推理。
Hugging Face 为 TGI 推出 Multi-LoRA 服务功能,在一个基础模型部署上通过 Request 中的 adapter_id 动态加载多个 LoRA 适配器,实现一次部署服务 30 个模型。
推荐理由:原文给出了 TGI 多 LoRA 部署的具体配置、成本对比和可复现操作步骤,适合评估多模型推理的工程团队参考。
Hugging Face 正在 Dataset Hub 上试验一项新功能,使用开源 PII 检测工具 Presidio 生成报告,估算数据集中个人信息的存在情况。该功能面向两类数据集:PII-Masking-300k 这类标注型 PII 数据集,以及常达 TB 级、经网页爬取得到的预训练数据集。报告可帮助开发者在训练前决定是否进一步过滤数据,也便于数据集所有者验证自身的 PII 过滤流程。
Hugging Face Hub 与 KerasHub 完成集成,两者共用模型保存格式,Hub 上 30 万+ Transformers 模型现可直接加载进 KerasHub。首批支持 Gemma 1/2、Llama 3 和 PaliGemma,KerasHub 此前仅能使用 33 个 Keras 模型。加载后的模型可在 TensorFlow、JAX、PyTorch 后端间一行代码切换。
HF Mirror 在 Inference Endpoints 和 Spaces 中上线 Google TPU v5e,提供 v5litepod-1(1 核 16 GB,$1.375/小时)、v5litepod-4(4 核 64 GB,$5.50/小时)和 v5litepod-8(8 核 128 GB,$11.00/小时)三种配置。
Hugging Face 为 Dataset Hub 的 Dataset Search 上线四项新功能:按模态(文本、图像、音频、表格等)、按行数规模、按存储格式(如 Parquet、WebDataset)以及按兼容库(如 Pandas、Dask、Datasets)筛选数据集。行数超过 5GB 的超大数据集将以首 5GB 内容估算总行数,四项筛选条件还可与语言、任务、许可证等已有过滤器组合使用。
Hugging Face 用 Transformers Agents 库构建的 Code Agent 在 GAIA 基准验证集上取得 44.2%,排名第一,比第二名高 4 个百分点;测试集成绩为 33.3%,排名第二,并在最难的 Level 3 问题上取得最佳平均分。
XLSCOUT 发布面向专利与 IP 领域的专有嵌入模型 ParaEmbed 2.0,基于人工专家整理的多领域专利数据微调,准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。