跳到正文

#Hugging Face

今日 1 条
1月17日周二
1月16日周一
1月3日周二
  1. Hugging Face Blog19

    Hugging Face 图解图机器学习入门:从图表示到 Graph Neural Networks 与 Graph Transformer

    Hugging Face 发布图机器学习入门博客,介绍图的基本概念、表示方法以及从神经网络之前的方法到 Graph Neural Networks 的学习路径,并简要展望面向图的 Transformer。文章还梳理了图级别、节点级别、边级别和子图级别的任务,例如图生成、Alphafold 用节点属性预测预测原子 3D 坐标,以及推荐系统中的缺失边预测。

1月2日周一
12月21日周三
  1. Hugging Face Blog43

    用 CLIPSeg 实现零样本图像分割

    Hugging Face 发布指南,介绍如何通过 transformers 使用 CLIPSeg 零样本图像分割模型。CLIPSeg 在冻结的 CLIP 之上训练 Transformer 解码器,能生成粗略分割掩码,可用于机器人感知与图像修复;其输入为 352 x 352 像素,输出分辨率较低,需要更精细结果时可在 Segments.ai 上微调优化。

12月20日周二
12月15日周四
12月14日周三
12月9日周五
12月2日周五
  1. Hugging Face Blog24

    Hugging Face 解读蛋白质深度学习:从语言模型到 ESMFold 折叠

    Hugging Face 发布蛋白质深度学习长文,面向生物学家与机器学习研究者,介绍蛋白质模型如何借鉴 BERT、GPT 等大语言模型。文章回顾 2018 年 ULMFiT 和 BERT 带来的迁移学习突破,指出其性能常相当于训练数据增加 100 倍以上,并给出微调蛋白质语言模型和用 ESMFold 做蛋白质折叠的示例 notebook。

12月1日周四
  1. Hugging Face Blog69

    如何在 Apple Silicon 上用 Core ML 运行 Stable Diffusion

    借助苹果工程师提供的转换脚本和基于 Diffusers 的推理代码,Stable Diffusion 现在可以在 Apple Silicon 上用 Core ML 运行,Hugging Face 已代为转换权重并上传到 Hub,提供 v1.4、v1.5、v2 base、v2.1 base 四个 checkpoint。

    推荐理由:借助苹果工程师的转换脚本,读者可以了解在 Apple Silicon 上用 Core ML 运行 Stable Diffusion 的权重下载与推理命令。

11月29日周二
  1. Hugging Face Blog5

    Hugging Face 启动 2023 年实习生招聘,开放 8 个 AI 方向岗位

    Hugging Face 宣布启动 2023 年实习生项目,与 HF 导师共同研究 AI 与机器学习前沿问题。开放岗位包括 Accelerate、文本转语音、具身智能、大语言模型分布式训练框架、LLM 数据集、社会影响评估和 AI 艺术工具等,分布在开源团队与 Science 团队。申请需通过官方招聘门户并注册 HF 账号,工作地点视具体岗位而定。

11月25日周五
11月21日周一
11月17日周四
  1. Hugging Face Blog36

    Hugging Face Spaces 与 arXiv 集成,论文页面新增 Demo 标签页

    Hugging Face Spaces 与 arXiv 达成合作,通过 arXivLabs 在论文页面加入 Demo 标签页,用户可直接跳转社区或作者创建的开源演示。该标签页会列出论文相关的最热门 demo,例如 BERT 论文页面可找到 200 多个社区构建的演示。Spaces 自 2021 年 10 月上线以来已累计托管超过 12,000 个开源机器学习 demo。

11月8日周二
  1. Hugging Face Blog29

    Hugging Face 公布新定价:Inference API 付费层下线,推出 Inference Endpoints

    Hugging Face 调整定价,下线 Inference API 的 Paid 付费层,该 API 仍对所有人免费开放,同时推荐需要快速企业级推理的用户使用新的 Inference Endpoints。Spaces 也获得硬件升级,可自选硬件运行 ML demo,这些服务无需订阅,只需在计费设置中绑定信用卡。所有付费服务按月月初扣费,并提供汇总发票。

11月7日周一
11月3日周四
11月2日周三
10月24日周一
  1. Hugging Face Blog42

    Hugging Face 在 Evaluate 库中加入语言模型偏见指标

    Hugging Face 为 Evaluate 库新增偏见指标与测量方法,可评估 GPT-2、BLOOM 等因果语言模型的偏见。流程分两步:用 🤗 Datasets 上的预定义提示词提示模型,再用 Evaluate 的指标评估生成文本,示例覆盖毒性、语言极性和伤害性三类任务,其中毒性指标调用 R4 Target 模型作仇恨言论分类器。

10月21日周五
  1. Hugging Face Blog32

    从 PyTorch DDP 到 Accelerate 再到 Trainer:轻松掌握分布式训练

    Hugging Face 发布教程,梳理如何用三级递增抽象在多个 GPU 上做分布式数据并行(DDP)训练:原生 PyTorch DDP、Accelerate 轻量封装,以及 Transformer 的高层 Trainer API。Accelerate 的封装无需改代码即可在单 GPU 和 TPU 上运行,只需对原代码做最小改动;Trainer 则抽象掉全部样板代码并支持多种设备和分布式场景。

10月19日周三
10月14日周五
10月13日周四
10月12日周三
  1. Hugging Face Blog44

    BLOOM 推理优化实录:延迟降低 5 倍、吞吐提升 50 倍

    Hugging Face 分享了 BLOOM(176B 参数,bf16 下 352GB)推理服务的优化过程,数周内把延迟降低 5 倍、吞吐提升 50 倍。团队用 Megatron-Deepspeed 训练的模型花约一个月、200 次提交移植到 transformers,并借助 accelerate 的 device_map="auto" 做流水线并行分片,同时保留了张量并行带来的数值差异开关。

10月7日周五
  1. Hugging Face Blog31

    Hugging Face 为模型和数据集引入 DOI

    Hugging Face 宣布用户可直接在 Hub 的仓库设置中为模型或数据集生成 DOI,其他人在模型/数据集页面点击"Cite this model/dataset"即可引用。该功能通过与 DataCite 合作实现,DOI 绑定了对象的 URL、版本、创建日期等元数据,并可通过更新 DOI 来区分模型或数据集的不同版本。

10月5日周三
10月3日周一
9月28日周三
  1. Hugging Face Blog30

    Hugging Face AutoTrain 新增图像分类任务,支持零代码训练

    Hugging Face 的 AutoTrain 新增图像分类任务,用户无需编写代码,只需上传数据并选择候选模型数量即可开始训练。示例中 AutoTrain 启动 5 个模型进行对比,表现不佳的模型被自动停止以节省资源,最佳模型达到 84% 准确率,使用 5 个候选模型且图片少于 500 张时可免费训练。训练完成的模型可发布到 Hub 并通过内置推理组件试用。

9月27日周二
9月26日周一
  1. Hugging Face Blog62

    Hugging Face 联合 Intel Labs 与 UKP Lab 发布 SetFit 小样本微调框架

    Hugging Face 与 Intel Labs、UKP Lab 合作推出 SetFit,一个用于 Sentence Transformers 小样本微调的框架,无需提示词或 verbaliser。

    推荐理由:SetFit 用 Sentence Transformers 的对比训练替代提示词,在 RAFT 上以小模型接近大模型表现,读者可据此了解小样本分类的低成本路径。

9月22日周四
  1. Hugging Face Blog15

    Hugging Face 推出 Ethics and Society 通讯,首期谈 AI 伦理落地

    Hugging Face 发布首期 Ethics and Society 通讯,计划按季节在春分、秋分、夏至、冬至发布,由公司内部跨团队开放小组撰写,聚焦 AI 伦理如何落地。该通讯以协作、责任、透明为出发点,强调不设独立伦理团队,而是全公司共担责任。Hugging Face 本周还上线了模型和 Space 仓库的“flag”功能,用于上报伦理与法律问题。

9月16日周五
9月12日周一