微调微软 Florence-2 视觉语言模型：在 DocVQA 上从 0 提升到 57.0
微软 6 月发布的 Florence-2 是 0.2B 和 0.7B 的基础视觉语言模型，支持 captioning、目标检测、OCR 等任务，但已发布模型不具备视觉问答能力。
全部AI 动态
全部动态
今日 11 条Hugging Face BlogAI 评分4040 Hugging Face BlogAI 评分2424 Hugging Face 通讯：为什么数据质量决定 AI 成败
Hugging Face 发文探讨数据质量为何是 AI 开发的关键，提出高质量数据应具备相关性、完整性、时效性与偏见缓解等特征。文章以 Reddit 与 Google 的 RAG 搜索合作失准（如推荐"给披萨加胶水"）为例，说明低质数据会拖累模型表现。作者主张将数据质量贯穿 AI 全生命周期，通过去重、内容过滤与人工反馈等策管流程提升模型稳健性、效率与公平性。
Hugging Face BlogAI 评分2626 Hugging Face 回顾“Data Is Better Together”数据集共建计划
Hugging Face 与 Argilla 合作的 Data Is Better Together 计划发布 DIBT/10k_prompts_ranked 数据集，吸引超 385 人参与提示词质量排名，并被用于训练 SPIN 等新模型。
Hugging Face BlogAI 评分1616 Prezi 借助 Hugging Face Expert Support Program 加速多模态 ML 路线图
在线演示工具 Prezi 加入 Hugging Face Expert Support Program，借助专家指导把更小、更高效的开源模型集成进其 ML 工作流。
Hugging Face BlogAI 评分4343 BigCodeBench：下一代 HumanEval 基准发布
Hugging Face 发布 BigCodeBench，包含 1,140 个函数级任务，需组合 139 个库中的多次函数调用，用于评测 LLM 在无污染的真实编程任务上的能力。每个任务平均配 5.6 个测试用例，分支覆盖率平均 99%，并另设更难、面向指令微调模型的 BigCodeBench-Instruct 变体。
Hugging Face BlogAI 评分3131 HF Mirror Accelerate 如何打通 DeepSpeed 与 FSDP：混合精度差异与 0.30.0 新模式
HF Mirror Accelerate 在 0.30.0 版本中为 FSDP 加入自动 upcasting，使其在混合精度下与 DeepSpeed 行为对齐，并新增"混合精度"与低精度两种 FSDP 模式。
Hugging Face BlogAI 评分4343 Hugging Face TRL 推出 RLOO Trainer，把强化学习带回 RLHF
Hugging Face 在 TRL 中推出 RLOO Trainer，一种作为 PPO 替代方案的在线 RLHF 训练算法。RLOO 显存占用比 PPO 少约 50-70%，1B 模型上速度是 PPO 的 2 倍，6.9B 模型上最高 3 倍，且只需加载策略、参考策略和奖励模型 3 份模型。其回复胜率（由 GPT4 评判）与 PPO 相当，并持续优于 DPO 等离线方法。
Hugging Face Blog精选AI 评分6767 Diffusers 支持 Stable Diffusion 3 Medium，含内存与性能优化
Stability AI 发布 Stable Diffusion 3 Medium，参数量 2B，现已在 Hugging Face Hub 上线并可配合 🧨 Diffusers 使用。
推荐理由：SD3 Medium 在 Diffusers 中集成的完整说明，含内存优化与 LoRA 微调脚本，适合评估其部署可行性。
Hugging Face BlogAI 评分3636 Hugging Face 推出面向 Amazon SageMaker 的 Embedding Container 正式版
Hugging Face 的 HF Mirror Embedding Container for Amazon SageMaker 正式可用（GA），AWS 客户可在 SageMaker 上部署嵌入模型以构建 RAG 等生成式 AI 应用。
Hugging Face BlogAI 评分2222 Hugging Face 将重新设计 Transformers 文档
Hugging Face 宣布重新设计 Transformers 文档，解决内容分散、导航困难、结构过时的问题。新文档将更面向开发者，采用代码优先和解决方案导向的呈现方式，并放弃此前严格套用 Diátaxis 四分类的僵硬结构，让文档能自然生长。
Hugging Face BlogAI 评分4040 Artificial Analysis 发布文生图排行榜与竞技场，用4.5万人类偏好投票给图像模型排名
Artificial Analysis 推出文生图排行榜与 Image Arena，基于超 45,000 条人类图像偏好投票、以类似 Chatbot Arena 的 ELO 回归为各模型打分，每个模型生成超 700 张覆盖人像、动物、自然、艺术等类别的图像。
Hugging Face BlogAI 评分4545 Hugging Face 推出 NPC-Playground：可与 LLM 驱动的 NPC 互动的 3D 演示
Cubzh 与 Gigax 联合在 Hugging Face Spaces 上线 NPC-Playground 3D 演示，用户可直接在浏览器中与 LLM 驱动的 NPC 对话。
Hugging Face BlogAI 评分2323 Hugging Face 为 Intel Gaudi 优化辅助生成，加速文本生成
Hugging Face 将辅助生成（Assisted Generation）适配并优化到 Intel Gaudi，现已集成进 Optimum Habana。该方法基于 Speculative Sampling，用草稿模型生成 K 个 token 再由目标模型评估，对大型 Transformer 模型通常可获得约 2x 加速，同时保持与自回归采样相同的采样质量。
Hugging Face BlogAI 评分4848 Hugging Face 披露 Spaces 平台密钥遭未授权访问，已撤销相关 HF token
Hugging Face 检测到其 Spaces 平台遭未授权访问，涉及 Spaces secrets，怀疑部分密钥已被读取。作为补救，官方已撤销这些 secrets 中的若干 HF token 并邮件通知相关用户，同时引入 KMS、移除 org token，并建议用户改用细粒度访问 token。该事件已上报执法机构和数据保护机构，公司正联合外部网络安全取证专家调查。
Hugging Face BlogAI 评分4141 Hugging Face 如何用 TGI Benchmarking 工具评测文本生成推理
Hugging Face 发布 TGI Benchmarking 工具，用于在吞吐量之外对 Text Generation Inference 部署做性能剖析，展示不同批大小下的延迟与吞吐权衡。该工具随 TGI 安装，需在服务器端运行，作者提供了可直接复制的 HF Space，内含 TGI docker 镜像与 jupyter lab，并通过 CLI 执行评测。
Hugging Face BlogAI 评分5050 用 Sentence Transformers 训练和微调嵌入模型
Hugging Face 发布博客，介绍如何用 Sentence Transformers 训练和微调嵌入模型，也可从零训练新模型。训练流程涵盖数据集、损失函数、训练参数、评估器和 Trainer 五个组件，数据可来自 HF Hub 或本地 CSV、JSON、Parquet、Arrow、SQL；数据集列顺序须与所选损失函数匹配，且 "label" 或 "score" 列用于提供标签。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon 2 系列：11B 预训练语言模型与视觉语言模型
TII 发布 Falcon 2 系列模型，包括 11B 基础 LLM 和 11B 视觉语言模型（VLM），后者在 LLM 之上接入预训练 CLIP ViT-L/14 视觉编码器并支持图像问答。
推荐理由：官方给出 11B LLM 与 VLM 的训练细节和基准对比，可据此判断小尺寸开源多模态模型的性能位置。
Hugging Face BlogAI 评分3737 Meta 发布 CyberSecEval 2：评估 LLM 网络安全风险与能力的评测框架
Meta 推出 CyberSecEval 2，用于评估 LLM 生成不安全代码、抵抗提示词注入、配合网络攻击、滥用代码解释器以及自动化攻击性网络安全能力。相比 2023 年 12 月的首版，LLM 配合网络攻击请求的平均合规率从 52% 降至 28%。所有代码已开源，可接入排行榜。
Hugging Face BlogAI 评分4040 HF Mirror 支持从 Hub 直接部署模型到 AWS Inferentia2
HF Mirror 将 AWS Inferentia2 部署能力开放给 Hub 用户，覆盖超过 100,000 个公开模型，新增 albert、bert、roberta、vit、xlm-roberta 等 14 种模型架构和 text-classification、text-generation、question-answering 等 6 类任务。
Hugging Face BlogAI 评分3636 HF Mirror 与微软深化合作：Azure 上开放模型 1 键部署与 Spaces Dev Mode
HF Mirror 与微软在 Microsoft Build 上宣布深化合作，Azure Model Catalog 的 HF Mirror Collection 新增 Llama 3、Mistral 7B、Command R Plus、Qwen 1.5 110B 等开放模型，支持 1 键部署。
Hugging Face BlogAI 评分4747 HF Mirror 在 AMD Instinct MI300 GPU 上实现一等公民集成
Hugging Face 与 AMD 合作，使 AMD Instinct MI300 GPU 在 HF Mirror 平台获得一等公民集成，用户无需改动代码即可通过 transformers 和 text-generation-inference 在 Azure ND MI300x V5 上部署模型。
Hugging Face BlogAI 评分2525 Hugging Face Spaces 推出 Dev Mode，支持一键连接 VS Code 和 SSH
Hugging Face 为 Spaces 推出 Dev Mode，可一键通过 VS Code 或 SSH 直连 Space，直接在 Space 内编辑代码，无需再用 git 推送本地改动。该功能目前处于 beta 阶段，仅面向 PRO 订阅用户开放，在 Space 设置中启用后会自动重启，改完代码点 Refresh 即可测试，满意后再 commit 和 merge 保存。
Hugging Face BlogAI 评分3535 Hugging Face 与 Dell 推出 Dell Enterprise Hub，本地训练部署开源模型
Hugging Face 发布 Dell Enterprise Hub，可在 Dell 平台上本地训练和部署开源模型，把数周的工程工作缩短到几分钟。该 Hub 汇集 Llama 3、Mixtral、Gemma 等模型，用户凭 HF 账号即可访问并按许可证或模型规模筛选，选定 Dell 平台和 GPU 数量后粘贴脚本即可部署为 API endpoint，微调同样在本地完成。
Hugging Face BlogAI 评分4343 Hugging Face 为 Transformers 推出 KV Cache 量化，支持更长文本生成
Hugging Face 为 Transformers 推出 KV Cache Quantization，通过降低 KV cache 精度减少长上下文生成的内存占用，质量损失很小，并可在内存效率与生成速度间自定义权衡。
Hugging Face BlogAI 评分3131 Hugging Face 推出 Open Arabic LLM Leaderboard 阿拉伯语大模型评测榜
Hugging Face 发布 Open Arabic LLM Leaderboard（OALL），专为评估和对比阿拉伯语 LLM 性能而设，服务全球超 3.8 亿阿拉伯语使用者。
Hugging Face Blog精选AI 评分7070 Google 发布开源视觉语言模型 PaliGemma
Google 发布视觉语言模型系列 PaliGemma，由 SigLIP-So400m 图像编码器和 Gemma-2B 文本解码器组成，可输入图像和文本并输出文本。
推荐理由：梳理了 PaliGemma 的架构、三种权重类型与分辨率选择建议，方便判断是否适合自身微调任务。
Hugging Face BlogAI 评分2626 HF Mirror 与 LangChain 推出合作包 langchain_huggingface
Hugging Face 与 LangChain 联合发布合作包 langchain_huggingface，可通过 pip install langchain-huggingface 安装。
Hugging Face Blog精选AI 评分7070 Hugging Face 发布 Transformers Agents 2.0
Hugging Face 发布 Transformers Agents 2.0，在原有 agent 类型外新增可基于历史观测迭代的 agent，并将代码与常用属性设计得清晰、模块化，同时加入 agent 分享功能。
推荐理由：官方给出新 Agent 框架的模块设计与 GAIA 榜单实测，读者可据此比较不同 LLM 引擎的 agent 表现。
Hugging Face BlogAI 评分2626 用 Intel Gaudi 2 和 Intel Xeon 构建高性价比企业级 RAG 应用
Intel 展示了基于 OPEA（Open Platform for Enterprise AI）的企业级 RAG 方案，使用 LangChain 的 rag-redis 模板、BAAI/bge-base-en-v1.5 嵌入模型与 Redis 向量数据库，嵌入模型跑在 Intel Granite Rapids CPU 上、LLM 跑在 Gaudi 2 加速器上。
Hugging Face BlogAI 评分1818 如何用 AWS 账号订阅 HF Mirror Enterprise Hub
HF Mirror 组织现在可以通过 AWS 账号在 AWS Marketplace 升级到 Enterprise Hub。该订阅提供单点登录、资源组、欧洲存储区域、审计日志、更高配额的 GPU、私有数据集查看器，并可在 NVIDIA DGX Cloud 上用 H100 GPU 免代码训练 LLM。
Hugging Face BlogAI 评分1818 Hugging Face 推出希伯来语 LLM 开放排行榜
Hugging Face 发布面向希伯来语的开放 LLM 排行榜，用于评测和提升希伯来语语言模型。榜上包含四个基准：希伯来语问答（HeQ 测试子集）、情感准确率、Winograd Schema Challenge 希伯来语翻译版和英希互译，均采用 few-shot 提示格式。
Hugging Face BlogAI 评分3030 Artificial Analysis LLM 性能排行榜上线 HF Mirror
Artificial Analysis 的 LLM Performance Leaderboard 现已上线 HF Mirror，覆盖 100 多个 serverless LLM API endpoint，可按质量、上下文窗口、价格、吞吐和延迟（TTFT）横向对比开源与闭源模型。
Hugging Face BlogAI 评分4444 Hugging Face Inference Endpoints 自定义处理器实现 Whisper ASR、说话人分离与投机解码
Hugging Face 发布自定义推理处理器方案，可在 Inference Endpoints 上组合 Whisper ASR、Pyannote 说话人分离（diarization）与投机解码，并通过单一 API 端点对外提供服务。
Hugging Face BlogAI 评分3939 Hugging Face 与 Dottxt 用结构化生成提升 Prompt 一致性
Hugging Face 排行榜与评测团队发现，MMLU 等任务的评测结果对 prompt 格式极为敏感，同一模型在不同格式下准确率可相差约 10 分，Qwen1.5-7B 甚至从 51.2% 跌至 22.9%。为此他们与 Dottxt 合作，用 Outlines 库通过正则表达式或上下文无关文法约束模型输出结构，希望从输出端而非输入端减少 prompt 格式带来的方差。
Hugging Face Blog精选AI 评分6262 StarCoder2-15B-Instruct 发布：完全透明可许可的自对齐代码模型
Hugging Face 发布 StarCoder2-15B-Instruct-v0.1，这是首个用完全可许可且透明的管线自对齐训练的代码大语言模型。它用 StarCoder2-15B 自行生成数千条指令-响应对再微调自身，不使用人工标注或大型闭源模型的蒸馏数据，在 HumanEval 上取得 72.6 分，超过 CodeLlama-70B-Instruct 的 72.0 分。
推荐理由：原文公开了完全透明的自对齐数据管线，读者可据此了解不依赖 GPT-4 蒸馏也能训练代码指令模型。
Hugging Face BlogAI 评分4040 Hugging Face 推出 Open Chain of Thought Leaderboard，按 CoT 准确率增益评测 LLM
Hugging Face 发布 Open Chain of Thought Leaderboard，不评测模型绝对准确率，而是衡量启用与不启用 chain-of-thought 提示后的准确率差值 Δ。榜单覆盖 LogiQA、LSAT 及 AGIEval 中的推理任务，均以多选题形式呈现，CoT 生成采用模块化提示链，已实现 Classic 与 Reflect 两种策略。
Hugging Face BlogAI 评分4444 Hugging Face 开源通用智能体 JAT：一个 Transformer 玩转 157 项任务
Hugging Face 发布通用智能体项目 Jack of All Trades（JAT），基于 GPT-Neo 的 Transformer 架构，用单一网络在 Atari、BabyAI、Meta-World、MuJoCo 四个领域的 157 项任务上达到专家平均性能的 65.8%。
Hugging Face BlogAI 评分5151 Hugging Face 推出 Open Medical-LLM Leaderboard，评测医疗场景大语言模型
Open Life Science AI 在 Hugging Face 发布 Open Medical-LLM Leaderboard，用统一平台评测大语言模型在医疗任务上的表现，以准确率为主要指标。
Hugging Face Blog精选AI 评分7878 Meta 发布 Llama 3 开源大模型，8B 与 70B 双规格上线 Hugging Face
Meta 发布 Llama 3，包含 8B 和 70B 两种参数规模，各有 base 与 instruct 微调版本，并同步推出基于 Llama 3 8B 微调的安全模型 Llama Guard 2，共 5 个开放权重模型上线 Hugging Face。
推荐理由：梳理 Llama 3 四款模型的规格、tokenizer 变化与 Hugging Face 生态集成方式，便于评估其部署与微调成本。
Hugging Face BlogAI 评分3737 Gradio 的 reload 模式如何快速构建 AI 应用
Gradio 推出 reload 模式，用 `gradio app.py` 替代 `python app.py` 启动应用，即可在不重启服务器的情况下拉取源码改动。