跳到正文

全部动态

今日 11 条
8月1日周五
7月31日周四
7月29日周二
7月25日周五
7月23日周三
7月22日周二
7月18日周五
7月17日周四
7月16日周三
7月15日周二
7月10日周四
  1. Hugging Face Blog66

    Hugging Face 发布 ScreenEnv:在 Docker 中部署全栈桌面 Agent

    Hugging Face 发布 Python 库 ScreenEnv,可在 Docker 容器中创建隔离的 Ubuntu 桌面环境,用于测试和部署能看、能点击、能与真实应用交互的 GUI(Computer Use)智能体。

    推荐理由:Hugging Face 把桌面智能体的沙箱环境做成了可直接 pip 安装的库,读者可据此判断 GUI Agent 的搭建与部署成本变化。

7月9日周三
  1. Hugging Face Blog37

    Hugging Face 与 AMD 为 MI300X 打造自定义内核,加速 Llama 3.1 405B FP8 推理

    Hugging Face 与 AMD 合作,为 MI300X 编写开源优化内核,提升 Llama 3.1 405B 在 FP8 下用 VLLM 的推理性能。三个自定义内核——融合残差连接、RMS norm 与 FP8 转换,融合 SwiGLU 激活与 FP8 转换,以及 Skinny GEMM——带来显著加速,测量基于输入 1、输出 128 的解码场景。

7月8日周二
  1. Hugging Face Blog37

    Hugging Face 详解高效多模态数据管道:从 Padding 浪费到背包问题打包

    Hugging Face 在 nanoVLM 项目中发现,训练中约 60% 的 batch 被无用的 padding token 占据,GPU 大量空转。其博客给出五阶段数据管道方案:从朴素 padding、固定长度裁剪,到用背包问题(knapsack)动态打包序列,并借助 IterableDataset 与生产者-消费者队列实现多模态数据的按需组批,尽量减少填充浪费。

7月4日周五
7月1日周二
6月28日周六
6月26日周四
  1. Hugging Face Blog73

    Gemma 3n 正式上线开源生态,E2B 仅需 2GB GPU 显存

    Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、Transformers.js、Ollama、Google AI Edge 等主流开源库上线,共发布 gemma-3n-E2B 与 gemma-3n-E4B 两种尺寸,各有 base 和 instruct 变体。

    推荐理由:原文给出 Gemma 3n 的端侧内存占用、多模态编码器与各开源库集成方式,可据此判断本地部署门槛。

6月23日周一
6月19日周四
6月16日周一
6月12日周四
6月11日周三
6月6日周五
6月4日周三
  1. Hugging Face Blog22

    nanoVLM 从零实现 KV Cache,生成提速 38%

    Hugging Face 的 nanoVLM 仓库从零实现了 KV Caching,使生成速度提升 38%。nanoVLM 是一个用纯 PyTorch 训练自定义视觉语言模型的精简代码库,KV Cache 在 Attention 块、语言模型层和生成循环三处启用,把逐步生成从全序列重算改为增量更新。文中的经验适用于所有自回归语言模型生成。

6月3日周二
  1. Hugging Face Blog62

    H Company 发布 GUI 自动化 VLM 系列 Holo1 与 WebClick 基准

    H Company 发布 Holo1 系列 Action VLM,包括 Holo1-3B 和 Holo1-7B,基于 Qwen2.5-VL 架构并兼容 transformers,同时在 Hugging Face 开源包含 1,639 个类人 UI 任务的 WebClick 多模态定位基准。

    推荐理由:Holo1 开源了 3B 和 7B 两档 GUI 定位模型,并给出真实网页任务的成本与准确率数据,便于判断小模型的落地边界。