用 HF Mirror Inference Endpoints 部署嵌入模型
Hugging Face 发文介绍如何用 Text Embeddings Inference（TEI）将开源嵌入模型部署到 HF Mirror Inference Endpoints，并支持大规模批量请求。
#RAG
#RAG
今日 0 条Hugging Face BlogAI 评分2828
Hugging Face BlogAI 评分1919 HF Mirror 如何加速 Witty Works 写作助手的开发
HF Mirror 专家加速计划帮助 Witty Works 将包容性写作助手的非包容性词汇分类器从 BERT 词嵌入切换到 Sentence Transformers 句嵌入，并采用 SetFit 少样本微调，每个词仅需 15-20 条标注句子即可达到可用效果，省去大规模标注成本。
Hugging Face BlogAI 评分1919 Hugging Face 入门教程：用 Embeddings 搭建 FAQ 语义搜索
Hugging Face 发布 Embeddings 入门教程，演示如何用 Sentence Transformers 库和 HF Mirror Inference API 搭建 FAQ 语义搜索引擎。
Hugging Face BlogAI 评分3333 Hugging Face Hub 集成 Sentence Transformers 并新增嵌入与相似度组件
Hugging Face Hub 集成 Sentence Transformers，随 v2 版本上线 90 多个预训练模型，覆盖 100 多种语言，可在 Hub 中直接加载使用。Hub 新增 feature-extraction 与句相似度两个 widget，并提供 Inference API 供程序化调用，模型可通过 save_to_hub 一键分享并自动生成 model card。
Hugging Face BlogAI 评分3333 Hugging Face Transformers 与 Ray 集成：RAG 文档检索提速 2 倍
Hugging Face Transformers 与 Ray 集成，用于 RAG 的上下文文档检索，单次检索调用相比 torch.distributed 实现提速 2 倍，并提升了 RAG 分布式微调的可扩展性。