Hugging Face 在 Evaluate 库中加入语言模型偏见指标
Hugging Face 为 Evaluate 库新增偏见指标与测量方法，可评估 GPT-2、BLOOM 等因果语言模型的偏见。流程分两步：用 🤗 Datasets 上的预定义提示词提示模型，再用 Evaluate 的指标评估生成文本，示例覆盖毒性、语言极性和伤害性三类任务，其中毒性指标调用 R4 Target 模型作仇恨言论分类器。
#开源/仓库
#开源/仓库
今日 1 条Hugging Face BlogAI 评分4242
Hugging Face BlogAI 评分4444 BLOOM 推理优化实录：延迟降低 5 倍、吞吐提升 50 倍
Hugging Face 分享了 BLOOM（176B 参数，bf16 下 352GB）推理服务的优化过程，数周内把延迟降低 5 倍、吞吐提升 50 倍。团队用 Megatron-Deepspeed 训练的模型花约一个月、200 次提交移植到 transformers，并借助 accelerate 的 device_map="auto" 做流水线并行分片，同时保留了张量并行带来的数值差异开关。
Hugging Face Blog精选AI 评分7171 Hugging Face 将 LLM.int8() 8-bit 量化集成进 transformers 与 accelerate
Hugging Face 联合 BigScience 将 LLM.int8() 8 位矩阵乘法量化集成到 transformers 和 accelerate，声称在 BLOOM-176B、OPT-175B 等模型上推理性能无下降，显存占用减半，例如 BLOOM-176B 只需 4 张 80GB A100 而非 8 张。
推荐理由：Hugging Face 与 bitsandbytes 合作把 LLM.int8() 落入 transformers，读者可了解大模型量化省显存的条件与代价。
Hugging Face BlogAI 评分3636 Hugging Face 推出 Skops：在 Hub 上托管 scikit-learn 模型
Hugging Face 推出 Skops 库，可将 scikit-learn 模型托管到 Hugging Face Hub，并为其创建模型卡实现文档化与协作。Skops 提供 hub_utils.init 初始化本地仓库，自动记录模型环境依赖、任务类型与示例输入，以启用推理 widget 和模型发现功能；同时通过 Card 类支持编程式写入元数据、指标与图表，最终推送到 Hub。
Hugging Face BlogAI 评分2727 Hugging Face Datasets 新增音频与图像文档，并预告 AudioFolder
Hugging Face 为 🤗 Datasets 补充了音频与图像数据集的文档：Quickstart 新增端到端加载处理示例和 to_tf_dataset 函数，可直接把数据集转成 tf.data.Dataset 供 TensorFlow/Keras 训练。
Hugging Face BlogAI 评分2222 如何在 HF Mirror 中用 TF Serving 部署 TensorFlow 视觉模型
Hugging Face 介绍了用 TensorFlow Serving（TF Serving）在本地部署 Vision Transformer（ViT）图像分类模型的方法，可将其以 REST 或 gRPC 端点对外暴露。
Hugging Face BlogAI 评分2020 如何用 Sentence Transformers 开启你的第一个机器学习项目
Hugging Face 发文介绍如何以 Sentence Transformers（ST）入手第一个机器学习项目，该库可将句子、段落和图像计算为稠密向量表示。
Hugging Face BlogAI 评分3939 Hugging Face 图解 Diffusion Model（DDPM）PyTorch 逐步实现
Hugging Face 发布 DDPM 注释教程，基于 Phil Wang 的 PyTorch 实现逐步复现（Ho et al., 2020）的去噪扩散概率模型。文章讲解前向加噪与反向去噪两个过程、T=1000 时间步、正弦位置嵌入和 U-Net 的 ResNet 块，并给出可运行代码。扩散模型思想最早可追溯至 Sohl-Dickstein 等人 2015 年的工作。
Hugging Face BlogAI 评分2727 TAPEX：无需真实数据的高效表格预训练
微软提出 TAPEX（Table Pre-training via Execution），通过系统采样可执行 SQL 查询及其执行结果合成预训练语料，让模型学习充当神经 SQL 执行器（以 BART 为例），从而绕开对真实表格数据的依赖。
Hugging Face BlogAI 评分3434 Hugging Face 在 transformers 库和 Hub 中集成 Decision Transformer
Hugging Face 将离线强化学习方法 Decision Transformer 集成进 transformers 库和 Hub，并发布 Gym 环境下 Walker2d、Hopper、Halfcheetah 等连续控制任务的 9 个预训练 checkpoint。
Hugging Face BlogAI 评分2222 用 🤗 datasets 打造图像搜索应用
Hugging Face 的 datasets 库新增图像 feature type，并支持为数据集添加 faiss 索引，从而对图像做相似度检索。文章以英国图书馆数字化书籍插画数据集为例，用 imagefolder loader 直接加载图像数据，并结合 sentence_transformers 与 faiss 构建图像搜索应用。
Hugging Face BlogAI 评分2727 用 Python 上手情感分析：Hugging Face 预训练模型与微调指南
Hugging Face Hub 上已有超过 215 个公开的情感分析模型，配合 Python 的 transformers pipeline 只需 5 行代码即可完成正负面情绪预测。文章介绍了用预训练模型处理推文、产品评论等数据，并给出用自有数据微调模型的两种方法，涵盖 Twitter-roberta-base-sentiment 等推荐模型。
Hugging Face BlogAI 评分3636 在 🤗 Transformers 中用 n-gram 语言模型提升 Wav2Vec2 识别效果
🤗 Transformers 现已集成 Kensho Technologies 的 pyctcdecode，可将 n-gram 语言模型与已微调的 Wav2Vec2 检查点结合做语音解码。
Hugging Face BlogAI 评分3838 如何用 AutoNLP 和 Prodigy 搭建主动学习流水线
Hugging Face 的 AutoNLP 与 Explosion 的标注工具 Prodigy 可以组合成主动学习流水线：用 Prodigy 人工标注数据，再用 AutoNLP 训练模型。在 Kaggle 的 BBC News Classification 数据集上，AutoNLP 训练 15 个多分类模型后最佳模型准确率达 98.67%，价格低至每个模型 $10。
Hugging Face BlogAI 评分2727 Hugging Face 推出首个 ML-Agents 环境 Snowball Fight ☃️
Hugging Face 发布首个自定义深度强化学习环境 Snowball Fight 1vs1，玩家可在该 Unity ML-Agents 游戏中向深度强化学习智能体投掷雪球，环境已托管于 Hugging Face Spaces 并可在线试玩。训练环境已开源发布在 Hugging Face Hub，后续将推出技术教程及采用 MA-POCA 算法的 2vs2 协作版本。
Hugging Face BlogAI 评分3232 Hugging Face 推出 Data Measurements Tool：交互式数据集分析工具
Hugging Face 发布开源 Python 库与无代码界面 Data Measurements Tool，基于 Dataset 和 Spaces Hub 搭配 Streamlit 构建，可在线构建、测量和对比数据集。
Hugging Face BlogAI 评分4040 Hugging Face 用 10 亿句对训练句嵌入模型
Hugging Face 在社区周活动中用 10 亿句对训练出 SOTA 句嵌入模型，训练跑在 7 块 TPU v3-8 上。方法采用批内负样本的对比学习目标，配合大批次、难负样本和跨数据集批次提升质量。模型与数据集已在模型卡中开源。
Hugging Face BlogAI 评分2222 Hugging Face 夏季回顾：Spaces 测试版、Hub 模型破 1.6 万
Hugging Face 夏季更新中，Hub 公开模型仓库从 1 万个增至超 1.6 万个，并推出托管 ML 演示应用的 Spaces 测试版，支持 Gradio 和 Streamlit。
Hugging Face BlogAI 评分3333 Hugging Face Hub 集成 Sentence Transformers 并新增嵌入与相似度组件
Hugging Face Hub 集成 Sentence Transformers，随 v2 版本上线 90 多个预训练模型，覆盖 100 多种语言，可在 Hub 中直接加载使用。Hub 新增 feature-extraction 与句相似度两个 widget，并提供 Inference API 供程序化调用，模型可通过 save_to_hub 一键分享并自动生成 model card。
Hugging Face BlogAI 评分2626 GPT-Neo 实测：如何用 🤗 Accelerated Inference API 做 Few-Shot Learning
Hugging Face 发布实践指南，演示如何用 EleutherAI 的 GPT-Neo 配合 🤗 Accelerated Inference API 完成 NLP 少样本（Few-Shot）预测。
Hugging Face BlogAI 评分5656 Hugging Face 发布 Accelerate 库，让原始 PyTorch 训练脚本直接跑分布式与混合精度
Hugging Face 发布 Accelerate 库，面向希望完全控制训练循环的 PyTorch 用户，用五行代码改动即可在任意设备上运行原始训练脚本，支持多节点多 GPU、TPU 与混合精度。
Hugging Face BlogAI 评分3434 Hugging Face 发布 pytorch_block_sparse，用块稀疏矩阵打造更小更快的语言模型
Hugging Face 发布 PyTorch 扩展 pytorch_block_sparse，其 BlockSparseLinear 可直接替代 torch.nn.Linear，让网络更小更快。
Hugging Face BlogAI 评分4646 Reformer 如何用不到 8GB 内存训练 50 万 token 序列
Hugging Face 博客详解 Reformer 模型如何以不到 8GB 内存训练长达 50 万 token 的序列，而 bert-base-uncased 的输入长度上限仅 512 token。