跳到正文

#Hugging Face

今日 1 条
4月9日周三
4月8日周二
4月5日周六
  1. Hugging Face Blog87

    Llama 4 Maverick 与 Scout 上线 Hugging Face,两款 MoE 多模态模型开放权重

    Meta 发布 Llama 4 Maverick(约 400B 总参数、17B 激活)和 Llama 4 Scout(约 109B 总参数、17B 激活)两款原生多模态 MoE 模型,权重已上线 Hugging Face 的 meta-llama 组织,含 base 与 instruct 版本,需先接受 Llama 4 社区许可协议。

    推荐理由:Meta 同日发布 Llama 4 Maverick 与 Scout 两款 MoE 多模态模型,并给出架构细节与 Hugging Face 侧集成方式。

4月4日周五
4月3日周四
4月2日周三
  1. Hugging Face Blog30

    如何用高效请求排队优化 LLM 推理性能

    TNG Technology Consulting 提出在自建 LLM-Server 中为每个用户和模型设置独立队列,并采用轮询式公平调度替代 FIFO,避免单个"重度用户"占满队列阻塞他人。该方案通过 vLLM 的 /metrics 端点读取后端队列长度指标、动态控制请求下发速率以保持短队列,从而降低新用户延迟。文章还讨论了按请求数、处理时长、KV-cache 命中和优先级分级等公平性扩展方向。

3月31日周一
3月28日周五
3月27日周四
3月26日周三
3月24日周一
3月21日周五
  1. Hugging Face Blog12

    Hugging Face Inference Endpoints 推出全新实时分析面板

    Hugging Face 为 Inference Endpoints 更新分析面板,指标数据改为实时更新,并重构后端以保证高流量端点下数据快速加载。新版本支持自定义时间范围与自动刷新,还新增副本生命周期视图,可追踪每个副本从初始化到终止的每次状态转换。这些更新已上线,官方表示仍在持续迭代并征求反馈。

3月20日周四
3月19日周三
3月18日周二
  1. Hugging Face Blog43

    Hugging Face 将 Xet 存储上线 Hub,首批模型与数据集仓库已从 LFS 迁移

    Hugging Face 已将首批模型和数据集仓库从 LFS 迁移至 Xet 存储,约 6% 的 Hub 下载流量切换到 Xet 基础设施。Xet 采用内容定义分块(CDC),按约 64KB 块做字节级去重,改一个 Parquet 文件的一行只需上传变更块,而 LFS 需重传整个文件。2 月 20 日当天共迁移 4.5 TB 仓库数据,迁移后 CAS 的下载量一度达到返回给客户端的四倍。

3月12日周三
  1. Hugging Face Blog81

    Google 发布 Gemma 3:多模态、多语言、长上下文开源模型

    Google 发布 Gemma 3 开源权重模型家族,提供 1B、4B、12B、27B 四种规格及预训练与指令微调版本。4B、12B、27B 支持图像与文本输入、140 多种语言和 128k token 上下文,1B 版本仅支持英文文本和 32k 上下文。

    推荐理由:Google 开源 Gemma 3 覆盖 1B 到 27B 四种规格,可据此判断小参数模型在多模态与长上下文上的实际边界。

  2. Hugging Face Blog68

    Open R1 发布 CodeForces-CoTs 数据集、IOI 基准与 OlympicCoder 代码模型

    Open R1 发布第三期更新,包括从 DeepSeek-R1 蒸馏的近 10 万条 C++ 与 Python 竞赛编程思维链数据集 CodeForces-CoTs、基于 2024 国际信息学奥林匹克(IOI)的新基准,以及微调的 7B 和 32B 模型 OlympicCoder。

    推荐理由:Open R1 公布了从 R1 蒸馏的代码推理数据集、IOI 基准与两个开源模型,可看蒸馏训练的具体做法与教训。

3月11日周二
  1. Hugging Face Blog75

    LeRobot 发布 L2D:全球最大开源自动驾驶数据集

    Yaak 与 Hugging Face 的 LeRobot 团队联合发布 Learning to Drive(L2D),被称为全球最大的开源自动驾驶数据集,包含来自德国 30 个城市、60 辆驾校电动车、历时 3 年采集的 90+ TB 多模态数据,约 5000 小时驾驶记录。

    推荐理由:L2D 开源数据集包含 5000+ 小时德国驾校数据,可用于 LeRobot 端到端自动驾驶模型的训练与闭环测试。

3月7日周五
3月4日周二
  1. Hugging Face Blog67

    Cohere For AI 发布 Aya Vision 多语言多模态模型 8B 与 32B

    Cohere For AI 发布 Aya Vision 系列开源多语言多模态模型,含 8B 和 32B 两个尺寸,覆盖 23 种语言。Aya Vision 32B 在 AyaVisionBench 上以 50% 至 64% 的胜率超过 Llama-3.2 90B Vision、Molmo 72B 和 Qwen2.5-VL 72B 等参数量两倍于它的模型。

    推荐理由:原文给出 8B/32B 两个尺寸的开源权重与训练配方,可据此比较小参数多模态模型在多语言任务上的位置。

2月28日周五
2月27日周四
2月25日周二
  1. Hugging Face Blog64

    Hugging Face 发布 Python 实时通信库 FastRTC

    Hugging Face 发布开源 Python 库 FastRTC,用于构建实时音频和视频 AI 应用,内置语音检测与轮次切换、WebRTC 版 Gradio UI 以及 WebSocket 支持。

    推荐理由:介绍了一个把 WebRTC 实时音视频通信封装成 Python 库的开源项目,读者可据此了解如何用少量代码搭建实时语音 AI 应用。

2月24日周一
2月21日周五
2月20日周四
2月18日周二
2月14日周五
2月13日周四
2月12日周三
  1. Hugging Face Blog60

    Hugging Face 在 Hub 上线 Xet 内容定义分块,上传下载提速 2-3 倍

    Hugging Face 的 Xet 团队把内容定义分块(CDC)从理论推向生产,用于 Hub 上文件的上传与下载,部分场景提速 2-3 倍。方案在分块去重后聚合为最大 64MB 的块,使内容寻址存储条目减少 1000 倍,并用占全部 chunk 0.1% 的 key chunks 全局索引做查询。

    推荐理由:原文给出块级聚合与 key chunks 的设计取舍,以及 gemma-2-9b-it-GGUF 仓库上传体积与耗时对比,可判断大文件传输的优化空间。

2月11日周二
2月10日周一
  1. Hugging Face Blog33

    Hugging Face 发布 Open Arabic LLM Leaderboard 2:阿拉伯语大模型评测榜升级

    Hugging Face 联合 2A2I、TII 推出 Open Arabic LLM Leaderboard 2,升级阿拉伯语大模型评测榜。首版 OALL 上线不到 7 个月吸引超 46,000 名访客,收到 700 多个模型提交,参数从 1B 到 70B 以上,来自 180 多个机构,其中超 70% 为 chat 和微调模型,11% 为预训练模型,超半数模型小于 7B。

2月4日周二
  1. Hugging Face Blog64

    Hugging Face 开源 DeepResearch 框架,GAIA 验证集达 55.15%

    Hugging Face 用 24 小时复现 OpenAI Deep Research,并开源了所需的智能体框架。该框架基于 smolagents 的 CodeAgent,让智能体用代码而非 JSON 表达动作,在 GAIA 验证集上取得 55.15% 的成绩,高于此前开源框架 Magentic-One 的约 46%;同一设置改用 JSON 写动作后平均降至 33%。

    推荐理由:原文给出了复现 OpenAI Deep Research 的开放框架与 GAIA 上的对比数字,可据此了解代码式智能体相较 JSON 方式的差异。

2月2日周日
1月31日周五