Hugging Face 指南：训练与微调 Sentence Transformers 模型
Hugging Face 发布 Sentence Transformers 训练与微调教程，讲解如何从零构建模型或用 HF Mirror Hub 上的模型微调。
#教程/实践
#教程/实践
今日 2 条Hugging Face BlogAI 评分2020
Hugging Face BlogAI 评分2222 Hugging Face 深度强化学习课程：PPO（近端策略优化）详解
Hugging Face 深度强化学习课程第 8 单元讲解 Proximal Policy Optimization（PPO），通过裁剪代理目标函数将新旧策略概率比限制在 [1−ϵ, 1+ϵ] 区间，避免策略更新过大，从而提升训练稳定性。课程随后用 PyTorch 从零实现 PPO，并在 CartPole-v1 与 LunarLander-v2 环境中验证。
Hugging Face BlogAI 评分3030 Nyströmformer：用 Nyström 方法以线性时间和内存近似自注意力
Hugging Face 博客介绍 Nyströmformer，该方法借助 Nyström 矩阵近似，把标准自注意力的 O(n²) 时间与内存复杂度降到 O(n)。
Hugging Face BlogAI 评分2727 Hugging Face Datasets 新增音频与图像文档，并预告 AudioFolder
Hugging Face 为 🤗 Datasets 补充了音频与图像数据集的文档：Quickstart 新增端到端加载处理示例和 to_tf_dataset 函数，可直接把数据集转成 tf.data.Dataset 供 TensorFlow/Keras 训练。
Hugging Face BlogAI 评分4141 用 TensorFlow 和 XLA 加速文本生成，最高提速 100 倍
Hugging Face 的 transformers 库现在支持用 XLA 编译 TensorFlow 文本生成，速度最高提升 100 倍，甚至快于 PyTorch。该功能要求 transformers >= 4.21.0，可通过 do_sample、temperature、num_beams、max_new_tokens 等参数控制采样与贪心解码、束搜索等生成方式。
Hugging Face BlogAI 评分2222 如何在 HF Mirror 中用 TF Serving 部署 TensorFlow 视觉模型
Hugging Face 介绍了用 TensorFlow Serving（TF Serving）在本地部署 Vision Transformer（ViT）图像分类模型的方法，可将其以 REST 或 gRPC 端点对外暴露。
Hugging Face BlogAI 评分1717 Hugging Face 深度强化学习课程 Unit 7：优势演员-评论家（A2C）
Hugging Face 深度强化学习课程 Unit 7 讲解优势演员-评论家（A2C）算法，这是一种结合基于价值与基于策略方法的混合架构，通过 Actor 控制智能体行为、Critic 评估动作好坏来降低 Reinforce 中蒙特卡洛采样带来的高方差，从而稳定并加速训练。课程使用 Stable-Baselines3 在 PyBullet 机器人环境中训练双足步行者和蜘蛛两个智能体行走。
Hugging Face BlogAI 评分3030 如何用对抗数据动态训练你的模型
Hugging Face 博客介绍动态对抗数据采集（DADC）：让人类在 🤗 Spaces 画布上写数字来骗过 MNIST 模型，再把骗成功的样本标记并回传训练，如此多轮循环。示例模型训练 20 个 epoch，在测试集上达到 89% 准确率。文中称 DADC 长期准确率明显高于标准非对抗数据采集。
Hugging Face BlogAI 评分5656 BLOOM 训练背后的技术：Megatron-DeepSpeed 工程实践解析
Hugging Face 发文详解 176B 参数多语言模型 BLOOM 的训练工程，该模型使用 Megatron-DeepSpeed 在 384 张 80GB A100 上训练约 3.5 个月，消耗约 1M 计算小时。
Hugging Face BlogAI 评分2424 用 Sentence Transformers 构建歌单生成器
基于 Sentence Transformers 和 Gradio 构建的歌单生成器，先对歌曲歌词按段落切分并生成嵌入向量，再对用户输入的文本提示词做语义搜索，返回最相关的歌曲。
Hugging Face BlogAI 评分3434 Hugging Face 指南：如何用 Inference API 对 Twitter 推文做情感分析
Hugging Face 发布 Twitter 情感分析入门指南，用 Inference API 几行代码即可批量判断推文的正负面与中性倾向。文中同时给出无代码方案：用 Zapier 抓取推文、调用 Inference API 分析并输出到 Google Sheets。示例项目以 Tweepy 抓取 @NotionHQ 相关推文，再用 Matplotlib 和 WordCloud 可视化结果。
Hugging Face BlogAI 评分2828 Hugging Face 深度强化学习课程：用 PyTorch 从零实现 Policy Gradient
Hugging Face 深度强化学习课程第 5 单元讲解 Policy-Based 方法中的 Policy Gradient，并用 PyTorch 从零实现 Reinforce（蒙特卡洛策略梯度）。
Hugging Face BlogAI 评分2020 如何用 Sentence Transformers 开启你的第一个机器学习项目
Hugging Face 发文介绍如何以 Sentence Transformers（ST）入手第一个机器学习项目，该库可将句子、段落和图像计算为稠密向量表示。
Hugging Face BlogAI 评分4444 Hugging Face 用 Accelerate 结合 DeepSpeed 加速大模型训练
Hugging Face 发布指南，演示如何用 Accelerate 库调用 DeepSpeed 的 ZeRO 特性来训练大模型。
Hugging Face BlogAI 评分1919 Hugging Face 入门教程：用 Embeddings 搭建 FAQ 语义搜索
Hugging Face 发布 Embeddings 入门教程，演示如何用 Sentence Transformers 库和 HF Mirror Inference API 搭建 FAQ 语义搜索引擎。
Hugging Face BlogAI 评分2222 用 HF Mirror Optimum 将 Transformers 模型转换为 ONNX
Hugging Face 博客介绍了三种把 Transformers 模型转成 ONNX 的方式：底层 torch.onnx、中层的 transformers.onnx，以及 Optimum 的 ORTModelForXxx 类。
Hugging Face BlogAI 评分2020 用 Deep Q-Learning 玩 Space Invaders：Hugging Face 深度强化学习课程第三单元
Hugging Face 深度强化学习课程第三单元讲解 Deep Q-Learning：不再维护 Q-table，改用神经网络根据状态近似每个动作的 Q-value，并在 Space Invaders 等 Atari 环境上训练，训练框架为基于 Stable-Baselines 的 RL-Zoo。
Hugging Face BlogAI 评分3939 Hugging Face 图解 Diffusion Model（DDPM）PyTorch 逐步实现
Hugging Face 发布 DDPM 注释教程，基于 Phil Wang 的 PyTorch 实现逐步复现（Ho et al., 2020）的去噪扩散概率模型。文章讲解前向加噪与反向去噪两个过程、T=1000 时间步、正弦位置嵌入和 U-Net 的 ResNet 块，并给出可运行代码。扩散模型思想最早可追溯至 Sohl-Dickstein 等人 2015 年的工作。
Hugging Face BlogAI 评分1919 Hugging Face 深度强化学习课程：Q-Learning 入门（下）
Hugging Face 深度强化学习课程第二单元下半部分讲解 Q-Learning，这是一种基于价值的 off-policy 方法，通过 TD 方式训练动作价值函数，内部维护一张记录各状态-动作对价值的 Q-table。文章从零实现首个 Q-Learning 智能体，并在 Frozen Lake v1 和自动驾驶出租车两个环境中训练，是学习第三单元 Deep Q-Learning 的基础。
Hugging Face BlogAI 评分1515 Hugging Face 深度强化学习课程：Q-Learning 入门（上）
Hugging Face 深度强化学习课程更新第二部分，讲解基于价值的方法，并区分蒙特卡洛与时序差分学习。该单元还将在 Frozen-Lake-v1 和自动驾驶出租车两个环境中，从零实现并训练第一个 Q-Learning 智能体，为后续 Deep Q-Learning 打基础。
Hugging Face BlogAI 评分4747 Hugging Face Optimum 1.2 新增推理与 Transformers pipelines 支持，加速 ONNX Runtime 推理
Hugging Face Optimum 1.2 新增推理与 Transformers pipelines 支持，可借助 ONNX Runtime 加速模型推理。
Hugging Face BlogAI 评分4040 Hugging Face 深度强化学习课程：从零入门 Deep RL 基础
Hugging Face 推出深度强化学习免费课程《Deep Reinforcement Learning Class》，第一章讲解 Deep RL 基础，涵盖 RL 框架、奖励假设、马尔可夫性质、观测与动作空间、探索/利用权衡及基于策略与基于价值两类方法。
Hugging Face BlogAI 评分2626 用 PyTorch FSDP 和 Accelerate 加速大模型训练
Hugging Face 介绍了如何用 Accelerate 库无需改动代码即可调用 PyTorch FullyShardedDataParallel（FSDP）训练大模型。
Hugging Face BlogAI 评分2929 用 Kili 与 HuggingFace AutoTrain 构建意见分类主动学习流水线
HuggingFace AutoTrain 与数据标注平台 Kili 结合，可搭建文本分类的主动学习流水线：先标注数据再迭代重训模型。示例用 Google Play 上约 4 万条 Medium 用户评论，按订阅、内容、界面、用户体验 4 类在多分类项目中标注，再用 AutoTrain 训练模型并做情感分析。
Hugging Face BlogAI 评分3636 在 Habana Gaudi 上快速上手 Transformers 微调
Habana Labs 与 Hugging Face 合作，用 Habana Gaudi 加速 Transformer 训练，训练性价比相比最新 GPU 版 Amazon EC2 实例最高提升 40%。
Hugging Face BlogAI 评分3030 用机器学习打造超级客户服务：Hugging Face 实战教程
Hugging Face 发布教程，演示如何用其生态工具搭建机器学习客服系统，自动筛选最不满意的客户消息并优先回复。
Hugging Face BlogAI 评分3232 Hugging Face Hub 如何用 Transformers 追踪并筛选模型的 CO2 排放
Hugging Face Hub 为 huggingface_hub 库新增 emissions_threshold 参数，可按训练排放量筛选模型，例如筛出排放不超过 100 克的 191 个模型、排放超过 500 克的 10 个模型。Transformers 则通过 codecarbon 集成，在 Trainer 训练时自动记录排放数据，生成 emissions.csv 供写入模型卡。
Hugging Face BlogAI 评分2020 Hugging Face 为何在 Transformers 中放弃 DRY 原则
Hugging Face 的 Transformers 库有意不遵循 DRY 原则，转而采用"单模型文件"策略：模型前向传播所需的全部代码只放在一个 model file 中，注意力机制代码因此被复制 50 多次。官方给出的理由包括该库由开源社区共建、建模代码本身就是产品（库已被 fork 超过 10,000 次），以及机器学习领域演进极快、模型发布后基本保持静态，集中抽象反而容易过时。
Hugging Face BlogAI 评分2424 如何用自定义数据集微调 SegFormer 语义分割模型
Hugging Face 发布指南，演示如何用 transformers 微调 SegFormer 语义分割模型，目标是做一台能识别路况的披萨配送机器人。
Hugging Face BlogAI 评分2222 用 🤗 datasets 打造图像搜索应用
Hugging Face 的 datasets 库新增图像 feature type，并支持为数据集添加 faiss 索引，从而对图像做相似度检索。文章以英国图书馆数字化书籍插画数据集为例，用 imagefolder loader 直接加载图像数据，并结合 sentence_transformers 与 faiss 构建图像搜索应用。
Hugging Face BlogAI 评分3232 用 HF Mirror Transformers 和 AWS Inferentia 加速 BERT 推理
HF Mirror 发布端到端教程，演示如何用 HF Mirror Transformers、Amazon SageMaker 和 AWS Inferentia 加速 BERT 文本分类推理。
Hugging Face BlogAI 评分5454 用 Transformers 的约束 beam search 引导文本生成
Hugging Face 发布博客，介绍 🤗 Transformers 中新的约束 beam search（constrained beam search）功能，可在生成阶段强制输出包含指定词语或短语。
Hugging Face BlogAI 评分2222 BERT 101：State Of The Art NLP 模型解析
BERT（Bidirectional Encoder Representations from Transformers）是 Google AI Language 研究人员于 2018 年开发的 NLP 模型，可同时处理情感分析、命名实体识别等 11+ 种常见语言任务。
Hugging Face BlogAI 评分4141 用 🤗 Transformers 微调 ViT 做图像分类
Hugging Face 发布教程，演示如何用 🤗 datasets 加载 beans 图像分类数据集、再用 ViTImageProcessor 和 🤗 transformers 微调预训练 ViT 模型。
Hugging Face BlogAI 评分2727 用 Python 上手情感分析：Hugging Face 预训练模型与微调指南
Hugging Face Hub 上已有超过 215 个公开的情感分析模型，配合 Python 的 transformers pipeline 只需 5 行代码即可完成正负面情绪预测。文章介绍了用预训练模型处理推文、产品评论等数据，并给出用自有数据微调模型的两种方法，涵盖 Twitter-roberta-base-sentiment 等推荐模型。
Hugging Face BlogAI 评分3838 如何在 🤗 Transformers 中用 Wav2Vec2 对超长音频做语音识别
Hugging Face 介绍了利用 Wav2Vec2 的 CTC 结构在 Transformers 中对任意长音频做语音识别的方法，通过在 pipeline 中设置 chunk_length_s 和 stride_length_s 实现带步长的重叠分块推理，避免长文件直接推理时显存溢出，同时保留 chunk 边界的上下文。
Hugging Face BlogAI 评分3636 在 🤗 Transformers 中用 n-gram 语言模型提升 Wav2Vec2 识别效果
🤗 Transformers 现已集成 Kensho Technologies 的 pyctcdecode，可将 n-gram 语言模型与已微调的 Wav2Vec2 检查点结合做语音解码。
Hugging Face BlogAI 评分3333 用 HuggingFace Transformers 和 Amazon SageMaker 部署 GPT-J 6B 进行推理
HuggingFace 博客介绍如何用 Amazon SageMaker 和 HuggingFace Inference Toolkit 部署 EleutherAI 的 GPT-J 6B 做实时推理，可在 NVIDIA T4 GPU 实例（约 500 美元/月）上运行。
Hugging Face BlogAI 评分3838 如何用 AutoNLP 和 Prodigy 搭建主动学习流水线
Hugging Face 的 AutoNLP 与 Explosion 的标注工具 Prodigy 可以组合成主动学习流水线：用 Prodigy 人工标注数据，再用 AutoNLP 训练模型。在 Kaggle 的 BBC News Classification 数据集上，AutoNLP 训练 15 个多分类模型后最佳模型准确率达 98.67%，价格低至每个模型 $10。
Hugging Face BlogAI 评分3737 Hugging Face 从零训练 GPT-2 模型 CodeParrot，自动补全 Python 代码
Hugging Face 发布教程，介绍如何从零训练 1.5B 参数的 GPT-2 large 模型 CodeParrot，用于自动补全 Python 代码。团队从 GitHub 数据中过滤出 180 GB、2000 万个 Python 文件，去重清洗后得到 50GB 数据集 codeparrot-clean，并基于 GPT-2 分词器在代码上重新训练。