跳到正文

#开源/仓库

今日 0 条
11月7日周二
10月25日周三
10月24日周二
8月8日周二
8月1日周二
7月20日周四
7月17日周一
6月16日周五
6月1日周四
  1. Hugging Face Blog10

    Hugging Face 宣布首届开源 AI Game Jam:7 月 7-9 日举办

    Hugging Face 宣布举办首届 Open Source AI Game Jam,活动时间为 7 月 7 日至 9 日,参赛者需在周末内做出一款游戏。作品须可运行于网页或 Windows,并至少使用一个开源 AI 工具,如 Stable Diffusion 可用于纹理生成、NPC 和文本转语音。任何人可个人或组队免费参加,作品按趣味性、创意和主题评分。

5月23日周二
  1. Hugging Face Blog60

    Safetensors 通过安全审计并成为默认格式

    Hugging Face 联合 EleutherAI 和 Stability AI 委托 Trail of Bits 对 safetensors 库做了外部安全审计,未发现可导致任意代码执行的关键安全漏洞,同时修复了格式规范中的若干不精确之处以及允许 polyglot 文件缺失验证的问题。

    推荐理由:安全审计结果支撑 safetensors 成为 transformers 默认依赖与默认保存格式,并给出后续迁移节奏。

5月9日周二
5月4日周四
  1. Hugging Face Blog71

    BigCode 发布 StarCoder:面向代码的开源 LLM,HumanEval 达 40.8%

    BigCode(Hugging Face 与 ServiceNow 联合)发布 StarCoder 和 StarCoderBase 代码大模型,基于 GitHub 宽松许可数据训练,覆盖 80+ 编程语言,约 15B 参数、训练 1 万亿 token。

    推荐理由:StarCoder 是 BigCode 推出的开源代码大模型,约 15B 参数、上下文 8k,在 HumanEval 上以 40.8% 超过 CodeGen-16B-Mono 和 OpenAI code-cushman-001,并公开权重与数据集。

4月5日周三
3月24日周五
3月10日周五
3月6日周一
  1. Hugging Face Blog65

    Kakao Brain 发布 ViT 与 ALIGN 模型及 7 亿对图文数据集 COYO

    Kakao Brain 与 Hugging Face 发布开源图文数据集 COYO(7 亿对)以及基于该数据集训练的 ViT 和 ALIGN 两个视觉语言模型,这是 ALIGN 首次免费开源,也是 ViT、ALIGN 首次附带公开训练数据发布。

    推荐理由:首个开源 ALIGN 模型连同 700M 训练数据集一并放出,读者可据此判断复现视觉语言建模的可行性。

2月24日周五
2月15日周三
2月7日周二
1月30日周一
12月9日周五
12月2日周五
  1. Hugging Face Blog24

    Hugging Face 解读蛋白质深度学习:从语言模型到 ESMFold 折叠

    Hugging Face 发布蛋白质深度学习长文,面向生物学家与机器学习研究者,介绍蛋白质模型如何借鉴 BERT、GPT 等大语言模型。文章回顾 2018 年 ULMFiT 和 BERT 带来的迁移学习突破,指出其性能常相当于训练数据增加 100 倍以上,并给出微调蛋白质语言模型和用 ESMFold 做蛋白质折叠的示例 notebook。

11月30日周三
  1. Hugging Face Blog32

    VQ-Diffusion:面向离散隐空间的扩散模型与 Diffusers 使用指南

    VQ-Diffusion 是中国科学技术大学与微软提出的条件隐空间扩散模型,其加噪与去噪过程在由离散向量构成的量化隐空间上进行,有别于主流连续扩散模型。模型采用冻结的 VQ-VAE(VQGAN 变体)将图像编码为离散 token,并用编码器-解码器 Transformer 一次性预测去噪后隐变量的分布。

11月21日周一
11月17日周四
  1. Hugging Face Blog36

    Hugging Face Spaces 与 arXiv 集成,论文页面新增 Demo 标签页

    Hugging Face Spaces 与 arXiv 达成合作,通过 arXivLabs 在论文页面加入 Demo 标签页,用户可直接跳转社区或作者创建的开源演示。该标签页会列出论文相关的最热门 demo,例如 BERT 论文页面可找到 200 多个社区构建的演示。Spaces 自 2021 年 10 月上线以来已累计托管超过 12,000 个开源机器学习 demo。

10月24日周一
  1. Hugging Face Blog42

    Hugging Face 在 Evaluate 库中加入语言模型偏见指标

    Hugging Face 为 Evaluate 库新增偏见指标与测量方法,可评估 GPT-2、BLOOM 等因果语言模型的偏见。流程分两步:用 🤗 Datasets 上的预定义提示词提示模型,再用 Evaluate 的指标评估生成文本,示例覆盖毒性、语言极性和伤害性三类任务,其中毒性指标调用 R4 Target 模型作仇恨言论分类器。

10月12日周三
  1. Hugging Face Blog44

    BLOOM 推理优化实录:延迟降低 5 倍、吞吐提升 50 倍

    Hugging Face 分享了 BLOOM(176B 参数,bf16 下 352GB)推理服务的优化过程,数周内把延迟降低 5 倍、吞吐提升 50 倍。团队用 Megatron-Deepspeed 训练的模型花约一个月、200 次提交移植到 transformers,并借助 accelerate 的 device_map="auto" 做流水线并行分片,同时保留了张量并行带来的数值差异开关。

8月17日周三
  1. Hugging Face Blog71

    Hugging Face 将 LLM.int8() 8-bit 量化集成进 transformers 与 accelerate

    Hugging Face 联合 BigScience 将 LLM.int8() 8 位矩阵乘法量化集成到 transformers 和 accelerate,声称在 BLOOM-176B、OPT-175B 等模型上推理性能无下降,显存占用减半,例如 BLOOM-176B 只需 4 张 80GB A100 而非 8 张。

    推荐理由:Hugging Face 与 bitsandbytes 合作把 LLM.int8() 落入 transformers,读者可了解大模型量化省显存的条件与代价。

8月12日周五
  1. Hugging Face Blog36

    Hugging Face 推出 Skops:在 Hub 上托管 scikit-learn 模型

    Hugging Face 推出 Skops 库,可将 scikit-learn 模型托管到 Hugging Face Hub,并为其创建模型卡实现文档化与协作。Skops 提供 hub_utils.init 初始化本地仓库,自动记录模型环境依赖、任务类型与示例输入,以启用推理 widget 和模型发现功能;同时通过 Card 类支持编程式写入元数据、指标与图表,最终推送到 Hub。

7月28日周四
7月25日周一
6月29日周三
6月7日周二
  1. Hugging Face Blog39

    Hugging Face 图解 Diffusion Model(DDPM)PyTorch 逐步实现

    Hugging Face 发布 DDPM 注释教程,基于 Phil Wang 的 PyTorch 实现逐步复现(Ho et al., 2020)的去噪扩散概率模型。文章讲解前向加噪与反向去噪两个过程、T=1000 时间步、正弦位置嵌入和 U-Net 的 ResNet 块,并给出可运行代码。扩散模型思想最早可追溯至 Sohl-Dickstein 等人 2015 年的工作。

5月23日周一
3月28日周一
3月16日周三
  1. Hugging Face Blog22

    用 🤗 datasets 打造图像搜索应用

    Hugging Face 的 datasets 库新增图像 feature type,并支持为数据集添加 faiss 索引,从而对图像做相似度检索。文章以英国图书馆数字化书籍插画数据集为例,用 imagefolder loader 直接加载图像数据,并结合 sentence_transformers 与 faiss 构建图像搜索应用。

2月2日周三
1月12日周三
12月23日周四