Hugging Face Optimum 1.2 新增推理与 Transformers pipelines 支持，加速 ONNX Runtime 推理
Hugging Face Optimum 1.2 新增推理与 Transformers pipelines 支持，可借助 ONNX Runtime 加速模型推理。
#推理
#推理
今日 4 条Hugging Face BlogAI 评分4747
Hugging Face BlogAI 评分3434 Hugging Face 在 transformers 库和 Hub 中集成 Decision Transformer
Hugging Face 将离线强化学习方法 Decision Transformer 集成进 transformers 库和 Hub，并发布 Gym 环境下 Walker2d、Hopper、Halfcheetah 等连续控制任务的 9 个预训练 checkpoint。
Hugging Face BlogAI 评分2121 Hugging Face 详解如何在现代 CPU 上扩大 BERT 类模型推理规模（下）
Hugging Face 博客第二部分聚焦 CPU 软件优化，介绍 Intel oneAPI 系列组件（oneMKL、oneDNN、oneCCL、OpenMP、oneTBB）以及 Intel TensorFlow、Intel PyTorch Extension 等定制框架。
Hugging Face BlogAI 评分4444 HF Mirror 如何用 CPU 扩展 BERT 推理（上）：从基线到多核与批大小扩展
HF Mirror 发布系列博客第一篇，讲如何用 CPU 优化 BERT 类模型推理，本篇聚焦硬件层面：基线测试、现代 CPU 技术考量、核心数扩展和批大小扩展。
Hugging Face BlogAI 评分2929 理解 BigBird 的块稀疏注意力机制
BigBird 采用块稀疏注意力替代 BERT 的全局注意力，可处理长度达 4096 的序列，计算成本远低于 BERT，并在长文档摘要、长上下文问答等任务上达到 SOTA。其 RoBERTa 类模型已上线 🤗Transformers。该注意力是 BERT 全注意力的近似，目标不是更优而是更高效，通过滑动注意力、全局 token 和随机 token 三种方式捕捉局部与长程依赖。
Hugging Face BlogAI 评分2323 Hugging Face 读书会：2021 年 2 月长程 Transformer 专题
Hugging Face 2 月读书会聚焦 Transformer 的长程注意力，围绕 Longformer、Compressive Transformer、Linformer、Performer 四条路线展开。Longformer 用局部窗口加全局注意力替代标准自注意力，把显存占用从 n² 降到 wn，可线性扩展序列长度，并直接复用预训练权重微调长文档任务。
Hugging Face BlogAI 评分3232 HF Mirror Transformers 中的 TensorFlow 模型提速
HF Mirror Transformers 发布了 TensorFlow 模型的计算性能改进，BERT、RoBERTa、ELECTRA 和 MPNet 在 graph/eager 模式、TF Serving 及 CPU/GPU/TPU 上均获得加速。
Hugging Face BlogAI 评分2828 Hugging Face 如何为 API 客户将 Transformer 推理提速 100 倍
Hugging Face 通过组合 Transformers 与 Tokenizers 库的高效方法，先获得约 10 倍推理加速，再针对目标硬件编译并优化模型，最终实现 100 倍提速。其中 Tokenizers 借助 Rust 实现与缓存，可将整体延迟最多降低 10 倍；后 10 倍则依赖图优化、层融合与量化等 CPU 或 GPU 专属手段，这一提速是实时消费级应用可接受延迟的门槛。
Hugging Face BlogAI 评分2525 Hugging Face 详解 Transformer 编码器-解码器模型及其推理原理
Hugging Face 发布博客，详解 Transformer 编码器-解码器架构如何建模序列到序列问题，重点拆解编码器与解码器两部分及其在推理中的用法。文章指出 T5、Bart、Pegasus、ProphetNet、Marge 等模型虽在预训练目标上各有研究，但架构基本未变，并展示了如何在 🤗Transformers 中进行推理。
Hugging Face BlogAI 评分4646 Reformer 如何用不到 8GB 内存训练 50 万 token 序列
Hugging Face 博客详解 Reformer 模型如何以不到 8GB 内存训练长达 50 万 token 的序列，而 bert-base-uncased 的输入长度上限仅 512 token。
Hugging Face Blog精选AI 评分6262 如何用 Transformers 生成文本：语言生成的不同解码方法
Hugging Face 博客介绍了自回归语言生成的几种主流解码方法，包括贪心搜索、beam search、采样、Top-K 与 Top-p（nucleus）采样，并给出在 transformers 库中用 GPT2 实现每种方法的代码示例。
推荐理由：系统梳理贪心、beam search 与多种采样策略的取舍，并给出可直接运行的 transformers 代码示例。