如何安装和使用 HF Mirror Unity API
HF Mirror Unity API 将 HF Mirror Inference API 集成进 Unity,开发者可在 Unity 项目中调用 AI 模型。
HF Mirror Unity API 将 HF Mirror Inference API 集成进 Unity,开发者可在 Unity 项目中调用 AI 模型。
Hugging Face 发布端到端教程,演示用 🤗 Transformers、TensorFlow 和 TPU 从零训练一个 RoBERTa base 掩码语言模型,涵盖训练 tokenizer、处理 WikiText v1 数据集、生成 TFRecord 分片并上传至 Google Cloud Storage,以及最终模型训练与上传。
Databricks 向 Hugging Face 代码库提交首个官方贡献,新增 Datasets 的 `from_spark` 函数,让用户直接把 Apache Spark dataframe 映射为 Hugging Face Dataset,省去先写 Parquet 再重新加载的步骤。
DeepFloyd 的像素级文生图模型 IF 可在免费版 Google Colab 上通过 🧨 diffusers 运行,T5-XXL 文本编码器经 bitsandbytes 8bit 量化后仅需约 8GB 显存即可加载。IF 直接在像素空间去噪并以 T5-XXL 替代 CLIP 作为文本编码器,擅长生成人脸、手部等高频细节,也是首个能可靠生成图像文字的開源图像生成模型。
Hugging Face 上线面向中文用户的中文博客 hf.co/blog/zh,由志愿者翻译其博客文章及 transformers、diffusion、强化学习等课程内容。
Hugging Face 与 AWS 合作,将 HF Mirror Transformers 针对 AWS Inferentia2 推理加速器优化,配合 optimum neuron 无需切分或改动模型,一行代码即可编译。
Hugging Face 博客介绍如何用 Transformers 库(需 >= 4.27.2)进行图分类,目前库中唯一的图 Transformer 模型是微软的 Graphormer。
Hugging Face 与开源联邦学习框架 Substra 合作创建了一个演示空间,让用户体验真实世界中高质量数据匮乏的困境,并对比联邦学习与单一数据源训练的模型表现。Substra 专为生产环境设计,已在乳腺癌研究等复杂医疗场景中实现突破。
Snorkel AI 宣布与 Hugging Face 合作,将 Hugging Face 的 Inference Endpoint 服务集成进 Snorkel Flow 平台,让企业用户可直接调用 Hugging Face 上超过 150,000 个开源模型。该服务支持几次点击创建模型 API,并具备暂停与恢复能力,客户不用时可休眠以控制成本。
Hugging Face 发布 StackLLaMA 模型及完整训练流程,用 SFT、奖励模型和 RLHF 三步训练 LLaMA 在 Stack Exchange 上答题,并开源了基于 TRL 库的全部训练管线。
推荐理由:原文完整披露了 RLHF 三步训练流程和踩坑细节,读者可据此复现或在单卡上跑起自己的对齐实验。
Hugging Face 发布 Ethics and Society Newsletter #3,阐述其在开放 ML 中兼顾伦理的立场,并推出 6 类伦理标签(Rigorous、Consentful、Socially Conscious、Sustainable、Inclusive、Inquisitive)和社区举报功能,用于标记违规的模型、数据集或 Space。
Habana Gaudi2 在 176B 参数 BLOOMZ 上推理延迟为 3.103 秒,比 Nvidia A100 80GB 的 4.402 秒快 1.42 倍,7B 版本则快 2.89 倍。
Hugging Face 展示如何用 Optimum Intel 与 OpenVINO 在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理。
Hugging Face 发布教程,演示如何用 HF Mirror 的 Transformers、Datasets 库结合 Flower 框架,在多个客户端上联邦微调预训练 Transformer 模型 distilBERT,用于 IMDB 影评正负情感分类。
Hugging Face 发布教程,介绍如何用 diffusers 训练 ControlNet。整个流程分三步:确定条件类型、构建含 ground truth image。
Hugging Face Hub 现已支持 Jupyter Notebook 的渲染,notebook 将以人类可读的格式展示,此前直接查看的是 ipynb 的 JSON 源文件。Hub 上已托管超过 7,000 个 notebook,以及 150,000 个模型、25,000 个数据集和 30,000 个 ML 应用。notebook 还支持在 Google Colab 中一键直接打开。
Hugging Face 将 AAAl21 最佳论文提出的 Informer 模型集成进 🤗 Transformers,用于多变量概率时间序列预测,即预测未来时间序列目标值向量的分布。
Hugging Face 官方发布 trl 与 peft 的集成,让使用 RLHF 的大语言模型微调更易上手。
推荐理由:原文给出 trl 与 peft 集成后在 24GB 消费级 GPU 上微调 20B 参数模型的完整路径,便于读者评估自身显存条件下的可行性。
Kakao Brain 与 Hugging Face 发布开源图文数据集 COYO(7 亿对)以及基于该数据集训练的 ViT 和 ALIGN 两个视觉语言模型,这是 ALIGN 首次免费开源,也是 ViT、ALIGN 首次附带公开训练数据发布。
推荐理由:首个开源 ALIGN 模型连同 700M 训练数据集一并放出,读者可据此判断复现视觉语言建模的可行性。
2023 年土耳其地震后,志愿者团队开发了灾害地图应用 afetharita,从社交媒体推文中提取幸存者的地址与求助需求。团队用 easyocr 做 OCR、基于 transformers 微调 NER 模型(以 bert-base-turkish-cased 为基座)抽取地址,并通过 Hugging Face Inference API 部署。
Hugging Face 博客介绍 Diffusers 中的 StableDiffusionControlNetPipeline,并演示用 Canny、OpenPose 等条件控制 Stable Diffusion 生成图像。
推荐理由:官方教程给出 ControlNet 在 Diffusers 中的完整用法,并配可运行代码与显存推理耗时对比,便于复现其各类条件控制。
Hugging Face 为 Diffusers 库发布了一套伦理框架,用于指导维护者处理社区贡献时的技术决策。该准则明确了透明、一致性、简洁、无障碍、可复现与责任等价值观,并列举了社区讨论区、"Not For All Eyes"标签、Stable Diffusion 偏见探索 Space、Safe Stable Diffusion、Hub 分阶段发布及 OpenRAILs 许可等安全机制。
HF Mirror 专家加速计划帮助 Witty Works 将包容性写作助手的非包容性词汇分类器从 BERT 词嵌入切换到 Sentence Transformers 句嵌入,并采用 SetFit 少样本微调,每个词仅需 15-20 条标注句子即可达到可用效果,省去大规模标注成本。
Hugging Face 在 Mac App Store 上线 🧨Diffusers for Mac 1.1,将社区贡献的 SoTA 文生图模型转换为 Core ML,可同时调用 CPU、GPU 和 Neural Engine,部分 Mac 上生成速度最高提升至两倍。
Hugging Face 发文解读大语言模型的红队测试(Red-Teaming):通过构造自然语言提示词诱导 LLM 暴露有害输出,并对模型进行修正,与人类难以理解的对抗攻击不同。文章指出人类或 LM 均可充当红队,对经 RLHF 或 SFT 对齐的模型需用角色扮演等方式越狱;Tay、Sydney 是缺乏红队评估的真实教训,Meta、Anthropic、AI2 已开源相关数据集。
Fetch 借助 AWS Partner HF Mirror 的 Expert Acceleration Program,将原本外包的收据识别 AI 换成自研模型,开发时间缩短 30%,处理延迟降低 50%,目前每天可处理超 1100 万张收据,服务 1800 万月活用户。
Hugging Face 与 AWS 扩大长期战略合作,Hugging Face 将把 AWS 作为首选云服务商,社区开发者可用 Amazon SageMaker、AWS Trainium 和 AWS Inferentia 训练、微调并部署模型。
Hugging Face Blog 发布指南,介绍 Salesforce Research 的 BLIP-2 视觉语言模型已集成到 Transformers,可通过 Q-Former 连接冻结的图像编码器与大语言模型,完成图像描述、提示式图像描述、视觉问答和对话式提示。
Hugging Face 将部分 CPU 推理模型从 AWS ECS + Fargate 迁移到自家 Inference Endpoints 托管服务,部署流程简化为训练、上传 Hub、一键部署三步。
Hugging Face 发布 PEFT 库,通过只微调少量额外参数并冻结预训练模型大部分参数来降低计算与存储开销,并已集成 Transformers 和 Accelerate。
推荐理由:官方给出 PEFT 库支持的方法与消费级硬件训练示例,可用于判断低显存微调方案的可行性。
Hugging Face 宣布 SpeechT5 正式集成进 Transformers,官方权重已发布在 HF Mirror Hub,并提供语音合成、音色转换和语音识别三个在线 demo。
Hugging Face 发布开源工具 AI vs. AI,在 Spaces 上托管多智能体竞赛,用 ELO 评分系统对提交到 Hub 的强化学习模型进行相对排名,新模型起始分为 1200。
Hugging Face 与 Intel 实测在 Sapphire Rapids 服务器上搭配 Optimum Intel 和 Intel Extension for PyTorch 运行 PyTorch Transformers 推理。
Hugging Face 博客梳理了视觉语言模型(VLM)的训练方法,涵盖对比学习、PrefixLM、交叉注意力多模态融合、MLM/ITM 以及免训练五类策略。文章以 OpenAI 的 CLIP 为例说明对比学习如何将图文映射到同一特征空间,并介绍了 CLOOB、ALIGN、DeCLIP、LiT 等模型,同时说明如何用 Transformers 库上手这些模型。
HF Mirror 回顾其计算机视觉生态:已支持图像分类、图像分割、零样本目标检测、视频分类、深度估计等 8 个核心视觉任务,Hub 上相关模型超过 3000 个、数据集超过 100 个,且每个任务至少有 10 个模型 checkpoint 可供使用。
在 AI for Game Development 系列第 4 天,Hugging Face 展示如何把 Stable Diffusion 的 Image2Image 作为工具嵌入传统 2D 美术流程,用来生成农场游戏图标。
Hugging Face 在 diffusers 中正式加入 LoRA 微调支持,可在 11 GB 显存的 2080 Ti 上训练 Stable Diffusion,微调权重文件仅约 3 MB,比 UNet 原模型小约一千倍。
推荐理由:以 11 GB 显存训 Stable Diffusion 的完整命令与推理代码为例,展示 LoRA 把微调权重压到 3 MB 的可行路径。
Hugging Face 的 Optimum 库通过与 ONNX Runtime 集成进行训练,可将众多热门 Hugging Face 模型的训练时间提升 35% 以上。
在“AI for Game Development”系列第 3 天,作者指出 text-to-3D 目前还无法真正用于游戏开发:DreamFusion、Point-E、CLIP-NeRF 等方案多基于视角合成,产出的 mesh 不能直接用于游戏,需要大量人工后处理。作者因此在本作中直接用不同颜色的方块代表农作物,并认为未来突破点在于 NeRF-to-mesh 与 mesh 生成的改进。
Mask2Former 和 OneFormer 两个 SOTA 图像分割神经网络现已加入开源库 🤗 transformers。OneFormer 只需在 panoptic 版本数据集上训练一次,即可在实例、语义和全景分割三项任务上取得 SOTA,并已支持 Swin Transformer 或 DiNAT 作为 backbone,但额外的文本编码器带来更高延迟。