跳到正文

全部动态

今日 11 条
1月19日周四
1月17日周二
1月16日周一
1月9日周一
  1. Hugging Face Blog24

    AI 游戏开发实战:5 天做出一款农场游戏(第 2 部分:游戏设计)

    Hugging Face 的系列教程第二部分展示如何用 ChatGPT 辅助农场游戏的游戏设计,作者让 ChatGPT 以专业游戏设计师身份给出作物多样性、进阶系统、动态环境、社交与剧情等核心玩法建议,并只对前两项做了灰盒实现。文中还介绍了语言模型与 Transformer 原理、RLHF 的作用,以及 ChatGPT 常用于头脑风暴与加速开发、而非取代开发流程的定位。

1月3日周二
  1. Hugging Face Blog19

    Hugging Face 图解图机器学习入门:从图表示到 Graph Neural Networks 与 Graph Transformer

    Hugging Face 发布图机器学习入门博客,介绍图的基本概念、表示方法以及从神经网络之前的方法到 Graph Neural Networks 的学习路径,并简要展望面向图的 Transformer。文章还梳理了图级别、节点级别、边级别和子图级别的任务,例如图生成、Alphafold 用节点属性预测预测原子 3D 坐标,以及推荐系统中的缺失边预测。

1月2日周一
12月21日周三
  1. Hugging Face Blog43

    用 CLIPSeg 实现零样本图像分割

    Hugging Face 发布指南,介绍如何通过 transformers 使用 CLIPSeg 零样本图像分割模型。CLIPSeg 在冻结的 CLIP 之上训练 Transformer 解码器,能生成粗略分割掩码,可用于机器人感知与图像修复;其输入为 352 x 352 像素,输出分辨率较低,需要更精细结果时可在 Segments.ai 上微调优化。

12月20日周二
12月15日周四
12月14日周三
12月9日周五
  1. Hugging Face Blog66

    图解大语言模型的 RLHF 训练流程

    Hugging Face 博客图解 RLHF 如何用人类反馈优化语言模型,把训练流程拆为预训练、训练奖励模型、用强化学习微调三个核心步骤,并说明奖励模型以排序而非直接打分来生成标量奖励,最后用 PPO 结合 KL 散度惩罚更新策略。

    推荐理由:文章系统拆解 RLHF 的预训练、奖励模型与 PPO 微调三阶段,并梳理可直接上手的开源工具与数据集。

12月2日周五
  1. Hugging Face Blog24

    Hugging Face 解读蛋白质深度学习:从语言模型到 ESMFold 折叠

    Hugging Face 发布蛋白质深度学习长文,面向生物学家与机器学习研究者,介绍蛋白质模型如何借鉴 BERT、GPT 等大语言模型。文章回顾 2018 年 ULMFiT 和 BERT 带来的迁移学习突破,指出其性能常相当于训练数据增加 100 倍以上,并给出微调蛋白质语言模型和用 ESMFold 做蛋白质折叠的示例 notebook。

12月1日周四
  1. Hugging Face Blog69

    如何在 Apple Silicon 上用 Core ML 运行 Stable Diffusion

    借助苹果工程师提供的转换脚本和基于 Diffusers 的推理代码,Stable Diffusion 现在可以在 Apple Silicon 上用 Core ML 运行,Hugging Face 已代为转换权重并上传到 Hub,提供 v1.4、v1.5、v2 base、v2.1 base 四个 checkpoint。

    推荐理由:借助苹果工程师的转换脚本,读者可以了解在 Apple Silicon 上用 Core ML 运行 Stable Diffusion 的权重下载与推理命令。

11月30日周三
  1. Hugging Face Blog32

    VQ-Diffusion:面向离散隐空间的扩散模型与 Diffusers 使用指南

    VQ-Diffusion 是中国科学技术大学与微软提出的条件隐空间扩散模型,其加噪与去噪过程在由离散向量构成的量化隐空间上进行,有别于主流连续扩散模型。模型采用冻结的 VQ-VAE(VQGAN 变体)将图像编码为离散 token,并用编码器-解码器 Transformer 一次性预测去噪后隐变量的分布。

11月29日周二
  1. Hugging Face Blog5

    Hugging Face 启动 2023 年实习生招聘,开放 8 个 AI 方向岗位

    Hugging Face 宣布启动 2023 年实习生项目,与 HF 导师共同研究 AI 与机器学习前沿问题。开放岗位包括 Accelerate、文本转语音、具身智能、大语言模型分布式训练框架、LLM 数据集、社会影响评估和 AI 艺术工具等,分布在开源团队与 Science 团队。申请需通过官方招聘门户并注册 HF 账号,工作地点视具体岗位而定。

11月25日周五
11月23日周三
11月21日周一
11月17日周四
  1. Hugging Face Blog36

    Hugging Face Spaces 与 arXiv 集成,论文页面新增 Demo 标签页

    Hugging Face Spaces 与 arXiv 达成合作,通过 arXivLabs 在论文页面加入 Demo 标签页,用户可直接跳转社区或作者创建的开源演示。该标签页会列出论文相关的最热门 demo,例如 BERT 论文页面可找到 200 多个社区构建的演示。Spaces 自 2021 年 10 月上线以来已累计托管超过 12,000 个开源机器学习 demo。

11月8日周二
  1. Hugging Face Blog29

    Hugging Face 公布新定价:Inference API 付费层下线,推出 Inference Endpoints

    Hugging Face 调整定价,下线 Inference API 的 Paid 付费层,该 API 仍对所有人免费开放,同时推荐需要快速企业级推理的用户使用新的 Inference Endpoints。Spaces 也获得硬件升级,可自选硬件运行 ML demo,这些服务无需订阅,只需在计费设置中绑定信用卡。所有付费服务按月月初扣费,并提供汇总发票。

11月7日周一
11月3日周四
11月2日周三
10月24日周一
  1. Hugging Face Blog42

    Hugging Face 在 Evaluate 库中加入语言模型偏见指标

    Hugging Face 为 Evaluate 库新增偏见指标与测量方法,可评估 GPT-2、BLOOM 等因果语言模型的偏见。流程分两步:用 🤗 Datasets 上的预定义提示词提示模型,再用 Evaluate 的指标评估生成文本,示例覆盖毒性、语言极性和伤害性三类任务,其中毒性指标调用 R4 Target 模型作仇恨言论分类器。

10月21日周五
  1. Hugging Face Blog32

    从 PyTorch DDP 到 Accelerate 再到 Trainer:轻松掌握分布式训练

    Hugging Face 发布教程,梳理如何用三级递增抽象在多个 GPU 上做分布式数据并行(DDP)训练:原生 PyTorch DDP、Accelerate 轻量封装,以及 Transformer 的高层 Trainer API。Accelerate 的封装无需改代码即可在单 GPU 和 TPU 上运行,只需对原代码做最小改动;Trainer 则抽象掉全部样板代码并支持多种设备和分布式场景。

10月19日周三
10月14日周五
10月13日周四
10月12日周三
  1. Hugging Face Blog44

    BLOOM 推理优化实录:延迟降低 5 倍、吞吐提升 50 倍

    Hugging Face 分享了 BLOOM(176B 参数,bf16 下 352GB)推理服务的优化过程,数周内把延迟降低 5 倍、吞吐提升 50 倍。团队用 Megatron-Deepspeed 训练的模型花约一个月、200 次提交移植到 transformers,并借助 accelerate 的 device_map="auto" 做流水线并行分片,同时保留了张量并行带来的数值差异开关。

10月7日周五
  1. Hugging Face Blog31

    Hugging Face 为模型和数据集引入 DOI

    Hugging Face 宣布用户可直接在 Hub 的仓库设置中为模型或数据集生成 DOI,其他人在模型/数据集页面点击"Cite this model/dataset"即可引用。该功能通过与 DataCite 合作实现,DOI 绑定了对象的 URL、版本、创建日期等元数据,并可通过更新 DOI 来区分模型或数据集的不同版本。

10月5日周三
10月3日周一
9月28日周三
  1. Hugging Face Blog30

    Hugging Face AutoTrain 新增图像分类任务,支持零代码训练

    Hugging Face 的 AutoTrain 新增图像分类任务,用户无需编写代码,只需上传数据并选择候选模型数量即可开始训练。示例中 AutoTrain 启动 5 个模型进行对比,表现不佳的模型被自动停止以节省资源,最佳模型达到 84% 准确率,使用 5 个候选模型且图片少于 500 张时可免费训练。训练完成的模型可发布到 Hub 并通过内置推理组件试用。