Hugging Face 将 Perceiver IO 加入 Transformers，支持任意模态
Hugging Face 将 Perceiver IO 加入 Transformers，这是首个可处理文本、图像、音频、视频、点云及其组合的 Transformer 类模型，随模型提供图像分类与光流预测示例和多个 notebook。
推荐理由：原文给出 Perceiver IO 加入 Transformers 的实现细节与多模态示例，读者可据此判断跨模态统一架构的可用性。
#开源生态
#开源生态
今日 1 条Hugging Face Blog精选AI 评分6161
Hugging Face BlogAI 评分2727 Hugging Face 推出首个 ML-Agents 环境 Snowball Fight ☃️
Hugging Face 发布首个自定义深度强化学习环境 Snowball Fight 1vs1，玩家可在该 Unity ML-Agents 游戏中向深度强化学习智能体投掷雪球，环境已托管于 Hugging Face Spaces 并可在线试玩。训练环境已开源发布在 Hugging Face Hub，后续将推出技术教程及采用 MA-POCA 算法的 2vs2 协作版本。
Hugging Face BlogAI 评分2525 用 Optimum 在 Graphcore IPU 上快速上手 Transformer 模型
HF Mirror 与 Graphcore 合作推出 Optimum，可通过 PopTorch 在 Graphcore IPU 上加速 Transformer 模型，BERT 是首个 IPU 优化的模型。
Hugging Face BlogAI 评分5050 用 🤗 Transformers 微调 XLSR-Wav2Vec2 实现低资源 ASR
Hugging Face 发布教程，演示如何用 🤗 Transformers 将 Wav2Vec2-XLS-R-300M 微调为低资源 ASR 模型，并在仅约 4 小时验证训练数据的 Common Voice 土耳其语数据集上采用 CTC 训练。
Hugging Face BlogAI 评分2020 HuggingFace 课程第二部分 11 月 15 日发布，同步举办社区活动
HuggingFace 课程第二部分将于 11 月 15 日发布，聚焦 token 分类、语言建模、翻译、摘要和问答等 NLP 任务，并深入讲解 Datasets 与 Tokenizers。配套社区活动含两天讲座与团队微调项目，AWS 通过 Amazon SageMaker 提供免费算力，完成 demo 可获结业证书。
Hugging Face BlogAI 评分1717 机器学习即代码的时代已经到来
Hugging Face 发文称，机器学习正走向「软件吞噬机器学习」：DevOps 的版本管理、测试、自动化与部署实践应被数据科学团队直接采纳，MLOps 让模型更快进入生产环境。
Hugging Face BlogAI 评分2828 用遥感（卫星）图像和描述微调 CLIP
一个跨 12 个时区的团队用 RSICD 遥感数据集微调了 OpenAI 的 CLIP 模型，并辅以 UCM、Sydney 数据集，共约 1 万张来自 Google Earth、百度地图等来源的卫星图像，每张最多配 5 条描述。
Hugging Face BlogAI 评分2525 用 Gradio 在 Hugging Face Spaces 展示你的机器学习项目
Hugging Face 博客介绍如何用 Gradio 在 Spaces 中托管模型演示：通过 gr.Interface.load() 调用 Inference API 加载 Hub 上的模型，几行代码即可运行，支持 image-to-text、speech-to-text、text-to-speech 等类型。
Hugging Face BlogAI 评分2222 用 Streamlit 在 HF Mirror Spaces 上托管模型与数据集
HF Mirror 发布博客介绍如何用 Streamlit 在 HF Mirror Spaces 中托管模型和数据集，并以复刻 "Write with Transformer" 为例演示用 GPT-2、XLNet 构建文本生成 Demo。
Hugging Face BlogAI 评分3333 Hugging Face 与 Graphcore 合作，为 IPU 优化 Transformer 模型
Hugging Face 在 2021 AI Hardware Summit 上宣布启动硬件合作伙伴计划，Graphcore 作为创始成员参与，开发者可借助新开源库 Optimum 在 IPU 上部署经认证的硬件优化 Transformer 模型。首批 IPU 优化模型将于今年晚些时候上线 Optimum，覆盖视觉、语音、翻译与文本生成等场景。
Hugging Face BlogAI 评分5252 Hugging Face 发布 Optimum：面向规模化 Transformer 的优化工具包
Hugging Face 发布开源库 Optimum，目标是提供 Transformer 生产性能的优化工具包，让工程师能在特定硬件上高效训练和运行模型。
Hugging Face BlogAI 评分5959 Hugging Face 提出 DeDLOC 协同训练方法，40 名志愿者预训练出孟加拉语模型 sahajBERT
Hugging Face 博客介绍分布式协同训练方法 DeDLOC，可自适应参与者的网络与硬件条件，并已用 40 名志愿者预训练出孟加拉语模型 sahajBERT。
Hugging Face BlogAI 评分5252 HF Mirror Hub 接入 spaCy，支持一键上传与在线推理
HF Mirror 宣布支持 spaCy，用户可用单条命令上传 pipeline 包，自动生成 model card 和元数据。spaCy 组织下已托管超过 60 个来自 3.1 版本的官方模型，Inference API 目前开箱支持 NER，未来将加入文本分类和 POS。模型可直接 pip install，也可通过 API 或浏览器交互调用。
Hugging Face BlogAI 评分5252 Hugging Face 推出 SageMaker 推理 DLC，一行代码部署 Transformer 模型
Hugging Face 与 Amazon 合作推出 Hugging Face Inference DLC 和 SageMaker Inference Toolkit，可部署在 SageMaker 中训练的模型，也可直接从 Model Hub 的 10,000+ 公开模型中选取并部署。
Hugging Face BlogAI 评分3939 用 Gradio 2.0 加载与混搭 Hugging Face 模型
Gradio 2.0 发布，可用 1 行代码为 Hugging Face Model Hub 上超过 1 万个模型加载 GUI，默认调用 Hugging Face 托管的 Inference API，也可本地跑 transformers。该版本支持将多个模型并行或串联组合，例如用 3 行代码搭建翻译加摘要的应用。
Hugging Face BlogAI 评分3838 Hugging Face 与 Amazon 达成战略合作，在 SageMaker 中推出 HF Mirror 深度学习容器
Hugging Face 与 Amazon 达成战略合作，并采用 AWS 作为首选云服务商，双方推出 HF Mirror Deep Learning Containers，让用户可在 Amazon SageMaker 中训练 Hugging Face Transformer 模型。
Hugging Face BlogAI 评分2323 Hugging Face 读书会：2021 年 2 月长程 Transformer 专题
Hugging Face 2 月读书会聚焦 Transformer 的长程注意力，围绕 Longformer、Compressive Transformer、Linformer、Performer 四条路线展开。Longformer 用局部窗口加全局注意力替代标准自注意力，把显存占用从 n² 降到 wn，可线性扩展序列长度，并直接复用预训练权重微调长文档任务。
Hugging Face BlogAI 评分5252 用 DeepSpeed 和 FairScale 的 ZeRO 装下更大模型并加快训练
Hugging Face 的 transformers v4.2.0 起通过 Trainer 新增的 --sharded_ddp 和 --deepspeed 参数，实验性支持 FairScale 和 DeepSpeed 的 ZeRO 功能。
Hugging Face BlogAI 评分2626 如何用预训练语言模型 checkpoint 热启动 Encoder-Decoder 模型
Hugging Face 发布教程，详解如何用 BERT、GPT2 等预训练 encoder 或 decoder checkpoint 热启动 encoder-decoder 模型，跳过昂贵的预训练。
Hugging Face BlogAI 评分3333 将 fairseq wmt19 翻译系统移植到 transformers
Hugging Face 博客记录了将 Facebook FAIR 的 fairseq wmt19 翻译系统移植到 transformers 的过程，作者 Stas Bekman 在 Sam Shleifer 建议下完成移植，并新增 configuration_fsmt.py、modeling_fsmt.py、tokenization_fsmt.py 及转换脚本等文件。
Hugging Face BlogAI 评分3434 Hugging Face 发布 pytorch_block_sparse，用块稀疏矩阵打造更小更快的语言模型
Hugging Face 发布 PyTorch 扩展 pytorch_block_sparse，其 BlockSparseLinear 可直接替代 torch.nn.Linear，让网络更小更快。
Hugging Face BlogAI 评分4545 如何用 Transformers 和 Tokenizers 从零训练一个新语言模型
Hugging Face 演示了用改进后的 transformers 和 tokenizers 库从零训练语言模型：构建 84M 参数（6 层、768 隐藏维度、12 个注意力头，与 DistilBERT 层数头数相同）的 EsperBERTo，在 3 GB 世界语语料上预训练，并微调词性标注任务。