Hugging Face 发布 swift-transformers，在 Apple 设备上运行端侧 LLM
Hugging Face 发布 swift-transformers，一个在 Swift 中实现类 transformers API 的包，同时开源 swift-chat 演示应用、更新版 exporters 与 transformers-to-coreml 转换工具，并提供 Llama 2 7B、Falcon 7B 等已转换模型。
#Hugging Face
#Hugging Face
今日 1 条Hugging Face BlogAI 评分5858
Hugging Face BlogAI 评分2828 用 Inference Endpoints 快速部署 MusicGen
Hugging Face 发布教程，介绍如何通过 custom handler 在 Inference Endpoints 上部署 facebook/musicgen-large，实现文本提示词生成音乐。
Hugging Face BlogAI 评分2727 Hugging Face 用机器学习为 Hub 数据集补全语言元数据
Hugging Face 正用机器学习检测 Hub 上缺少语言元数据的数据集语言，并通过 librarian-bots 提交 PR 补全。
Hugging Face BlogAI 评分2929 Zama 用全同态加密（FHE）在加密数据上运行 GPT2 推理
Zama 展示了如何基于 HF Mirror transformers 库，用全同态加密（FHE）与 Concrete-Python 改造 GPT2 的推理流程，让多注意力头的一部分计算在加密数据上由服务器完成，从而同时保护用户数据隐私与模型 IP。
Hugging Face BlogAI 评分4242 实用 3D 资产生成：用 Shap-E 与 Dream Textures 逐步搭建 PS1 风格模型
这是一份把生成式 AI 接入 PS1 风格 3D 工作流的实操指南，用 OpenAI 开源扩散模型 Shap-E 从文本生成模型，再在 Blender 3.1+ 中用 Decimate 修改器降面、用 Dream Textures 插件生成无缝贴图并完成 UV 展开，最后导出 FBX 导入 Unity。
Hugging Face BlogAI 评分5050 Segmind 开源 SD-Small 与 SD-Tiny 蒸馏代码及权重
Segmind 开源了压缩扩散模型 SD-Small 和 SD-Tiny 的权重与知识蒸馏训练代码，两者参数量分别比基础模型减少 35% 和 55%，图像保真度接近原模型。模型以 Realistic-Vision 4.0 为教师模型，在 LAION Art Aesthetic 数据集上训练，推理速度最高快 100%。权重和代码均已发布在 Hugging Face。
Hugging Face Blog精选AI 评分6262 Stable Diffusion XL 登陆 Mac：Core ML 混合位量化实现 71% 体积压缩
Hugging Face 与 Apple 合作将 Stable Diffusion XL 基础模型移植到 Core ML，可在运行 macOS 14 公测版的 Apple Silicon Mac 上本地出图，目前仅支持原始注意力实现，refiner 阶段尚未移植。
推荐理由：原文给出了 SDXL 在 Apple Silicon 上的实测延迟与混合位量化配方，可据此判断本地出图的速度与体积取舍。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 Agents.js：用 JavaScript 为 LLM 提供工具能力
Hugging Face 发布 Agents.js，一个在浏览器或 Node 中为 LLM 提供工具调用的 JavaScript 库，可通过 npm install @huggingface/agents 安装。
推荐理由：Hugging Face 官方发布 JS 智能体库，可了解其工具调用方式与自定义扩展路径。
Hugging Face BlogAI 评分2626 Hugging Face 联合 Creative Commons、GitHub 等就 EU AI Act 提出开源 ML 五项建议
Hugging Face 与 Creative Commons、Eleuther AI、GitHub、LAION、Open Future 联合发布立场文件，针对 EU AI Act 最终阶段提出五项建议。
Hugging Face BlogAI 评分2020 Hugging Face 首届开源 AI Game Jam 结果公布：Snip It 夺冠
Hugging Face 公布首届 Open Source AI Game Jam 结果，活动收到超 1300 人报名、88 款游戏提交，冠军由 ohmlet 的 Snip It 获得，该游戏用 Stable Diffusion 生成美术资产。参赛作品须至少使用一项开源 AI 工具，评审按趣味性、创意和主题契合度选出前 10 名，再交由三位评委评出最佳游戏。
Hugging Face BlogAI 评分2929 Hugging Face Diffusers 一周年：从文生图到视频、3D 与更快推理
Hugging Face 的 Diffusers 库迎来一周年，已从文生图工具箱扩展出视频、3D 与图像编辑能力。
Hugging Face Blog精选AI 评分7979 Meta 发布 Llama 2，Hugging Face 全面集成
Meta 发布开源大语言模型家族 Llama 2，包含 7B、13B、70B 参数规模，以宽松社区许可开放并允许商用，代码、预训练模型和微调模型同日放出。
推荐理由：文章给出了 Llama 2 的模型规格、商用许可和完整部署与微调路径，便于读者评估落地成本。
Hugging Face BlogAI 评分4242 Hugging Face 用 Zeroscope 与 MusicGen 搭建 AI WebTV 实验直播
Hugging Face 推出 AI WebTV 实验性 Demo，用开源文生视频模型 Zeroscope 和音乐生成模型 MusicGen 合成内容并以直播形式播放。
Hugging Face BlogAI 评分4343 Hugging Face 开源文本生成与 LLM 生态全景
Hugging Face 发布博客梳理其开源文本生成与 LLM 生态，涵盖因果语言模型与 text-to-text 模型、许可协议、LLM 服务工具及 PEFT 微调。
Hugging Face BlogAI 评分3636 如何在 Intel CPU 上微调 Stable Diffusion 模型
Hugging Face 展示了在 Intel Sapphire Rapids CPU 集群上微调 Stable Diffusion 模型的方法，使用 textual inversion 技术仅需 5 张示例图片即可完成训练。
Hugging Face BlogAI 评分4545 用 Transformers.js 打造 ML 驱动的网页游戏 Doodle Dash
Hugging Face 发布教程，演示如何用 Transformers.js 在浏览器本地实时运行机器学习模型，做出涂鸦猜词游戏 Doodle Dash。游戏基于 Google Quick, Draw!
Hugging Face BlogAI 评分3232 用 Hugging Face Inference Endpoints 部署 LLM：Falcon 40B 实战与流式响应
Hugging Face Inference Endpoints 可几键将 Falcon 40B instruct 等开源 LLM 部署为生产 API，支持自动扩缩容与缩容到零。
Hugging Face BlogAI 评分2525 用开源 ML 模型打造 Web 应用生成器
Hugging Face 发布教程，用 NodeJS 搭配 WizardCoder-15B 与 Inference Endpoints API 构建 AI 网页应用生成器，通过流式输出边生成边渲染 HTML。
Hugging Face BlogAI 评分1313 Writer 如何借助 HF Mirror 应对复杂生成式 AI 用例
HF Mirror 对话 Writer 联合创始人兼 CTO Waseem Alshikh，回顾其从 HF Mirror 用户、客户到开源模型贡献者的历程。对话涉及 Writer 的创业初衷、当下生成式 AI 的最大误解，以及其在 CPU 和 GPU 上规模化部署 LLM 的生产实践与效率考量。
Hugging Face BlogAI 评分3434 Habana Gaudi2 如何加速 BridgeTower 视觉语言模型微调
Optimum Habana v1.7 在 Habana Gaudi2 上微调 BridgeTower 视觉语言模型，相比 A100 提速 2.5 倍，相比 H100 提速 1.4 倍。
Hugging Face BlogAI 评分2222 Hugging Face 伦理与社会通讯第4期：文本到图像模型中的偏见
文本到图像（TTI）生成模型正大量上传至 Hugging Face Hub，其偏见来源多样。Hugging Face 梳理了训练数据（如 LAION-5B、MS-COCO、VQA v2.0）、预训练数据过滤、推理（CLIP 的年龄、性别、种族偏见）、模型潜在空间及事后过滤等偏见来源，并列举了 Stable Bias 等检测工具与红队评估方法。
Hugging Face BlogAI 评分4444 Open LLM Leaderboard 的 MMLU 分数为何与 LLaMA 论文对不上
Hugging Face 发文解释 Open LLM Leaderboard 上 LLaMA 的 MMLU 分数为何明显低于 LLaMA 论文报告值。原因是同一 MMLU 基准存在 EleutherAI LM Evaluation Harness、Stanford HELM 和 UC Berkeley 原始实现三套代码，对同一批模型给出的分数差异很大，甚至改变模型排名顺序。
Hugging Face BlogAI 评分2020 Hugging Face 就美国 NTIA 的 AI 问责政策提交回应意见
Hugging Face 于 6 月 12 日向美国商务部 NTIA 的 AI 问责政策意见征集提交回应，强调文档与透明度规范在推动 AI 问责中的作用。其建议问责机制应覆盖机器学习开发全流程、结合内部要求与外部访问透明，并吸纳开发者、多学科研究社区、倡导组织、政策制定者和记者等最广泛的参与者。
Hugging Face BlogAI 评分4040 微调 MMS Adapter 模型实现低资源 ASR
Hugging Face 发布博客，介绍如何用 Meta AI 的 MMS Adapter 训练低资源语音识别：仅微调约 2.5M 权重、10-20 分钟即可获得极低词错误率，比微调整个模型更省内存、更稳健。MMS 在 1400 多种语言、50 万小时以上音频上预训练，已放出 300M 和 1B 检查点，以及 102、1107、1162 种语言的 ASR adapter。
Hugging Face BlogAI 评分2424 Transformers 对时间序列预测确实有效：Hugging Face 回应 DLinear 质疑并加入 Autoformer
Hugging Face 用实验反驳 AAAI 2023 论文对 Transformers 的质疑，指出 DLinear 在 Traffic、Exchange-Rate、Electricity 三个数据集上的 MASE 均逊于 Autoformer（如 0.965 对 0.910）。
Hugging Face BlogAI 评分2020 Hugging Face 发布全新内容准则与政策
Hugging Face 更新了平台 Content Policy，并发布配套博客说明其制定理念。新政策将「同意」（consent）列为核心价值，重点关注用户所见内容以及人们身份与表达方式在平台上的呈现；同时禁止针对用户及 HF 员工的攻击性或骚扰性言论，鼓励在 Community Tab 中公开协作解决冲突。
Hugging Face Blog精选AI 评分6363 如何在 iPhone、iPad 和 Mac 上通过 Core ML 加速 Stable Diffusion
Hugging Face 发布博客介绍用 Core ML 的 6-bit palettization 压缩 Stable Diffusion 权重，使模型更小、推理更快、内存占用更低。
推荐理由：原文给出 6-bit palettization 的量化收益与指标，并附自定义模型转换命令，可据此复现端侧部署与提速。
Hugging Face BlogAI 评分3333 将 Livebook notebook 作为应用部署到 Hugging Face Spaces
Elixir 社区用 Livebook 构建了一款基于 Whisper 的聊天应用，并部署到 Hugging Face Spaces，全程不到 15 分钟。用户只能发送语音消息，由 Whisper 模型自动转成文本，该应用展示了与 Hugging Face Models 的集成、多人机器学习应用以及并发模型服务。
Hugging Face BlogAI 评分3939 HF Mirror 与 AMD 达成硬件合作，为 CPU 和 GPU 平台加速前沿模型
HF Mirror 宣布 AMD 正式加入其硬件合作伙伴计划，双方将在 AMD CPU 和 GPU 上优化 Transformer 模型的训练与推理。GPU 侧先支持企业级 Instinct MI2xx、MI3xx，随后覆盖消费级 Radeon Navi3x；CPU 侧聚焦 Ryzen 与 EPYC 的推理优化，并纳入 Alveo V70 AI 加速器。
Hugging Face BlogAI 评分2020 Hugging Face 面向 GLAM 机构的 Hub 使用指南
Hugging Face 发布面向美术馆、图书馆、档案馆与博物馆（GLAM）机构的 Hub 使用指南，帮助该领域从业者查找模型并上传数据集。Hub 目前托管超 190,000 个模型、33,000 个数据集和逾 100,000 个 ML 应用与演示，可按任务和语言筛选，支持 API 部署，也能直接上传 CSV 数据集。
Hugging Face BlogAI 评分4848 Hugging Face 研究：大语言模型能像人类一样标注数据吗？
Hugging Face 用 327 条提示词（含 25 条编程类）对 Koala 13b、Vicuna 13b、OpenAssistant 12b、Dolly 12b 四个开源指令模型做盲测，由 Scale AI 标注者按 1-8 Likert 量表打分并生成 Elo 排名，Vicuna-13B 以 1140 居首，Dolly-12B 以 802 垫底。
Hugging Face BlogAI 评分3636 Hugging Face Hub 支持用 DuckDB 对 5 万+ 数据集运行 SQL 查询
Hugging Face Hub 新增功能，可直接用 DuckDB 对 Hub 上任意公开数据集运行 SQL 查询。数据集查看器会自动把所有公开数据集转换为 Parquet 文件（大数据集按 500MB 分片），用户通过 /parquet 端点获取 URL 后，加载 httpfs 扩展即可查询远程文件。
Hugging Face BlogAI 评分2626 fastText 正式上线 Hugging Face Hub
Meta AI 开源的文本表示与分类库 fastText 现已上线 Hugging Face Hub，官方托管全部 157 种语言的词向量以及最新语言识别模型。用户可通过几行命令下载使用，并支持文本分类与特征提取 widget。
Hugging Face Blog精选AI 评分7272 Falcon 模型已接入 Hugging Face 生态
Hugging Face 发布博客介绍阿布扎比 TII 以 Apache 2.0 开源的 Falcon 系列模型，包括 Falcon-40B 和 Falcon-7B 及其 Instruct 版本，并给出在 HF 生态中运行与微调的具体做法。
推荐理由：HF 官方给出 Falcon 40B/7B 从推理、量化到 QLoRA 微调的可复用命令与显存要求，便于在自己硬件上复现。
Hugging Face BlogAI 评分3535 如何在 Unity 中用 HF Mirror Unity API 实现语音识别
Hugging Face 发布教程，讲解如何借助 HF Mirror Unity API 在 Unity 中实现语音识别，把玩家说的话转成文本，可用于下达指令、与 NPC 对话或提升无障碍体验。教程演示搭建含开始/停止按钮和 TextMeshPro 文本框的场景，用 Microphone.Start() 以 44100 Hz 录制最长 10 秒音频，再编码为 WAV 格式发送给 API 识别。
Hugging Face BlogAI 评分1010 Hugging Face 宣布首届开源 AI Game Jam：7 月 7-9 日举办
Hugging Face 宣布举办首届 Open Source AI Game Jam，活动时间为 7 月 7 日至 9 日，参赛者需在周末内做出一款游戏。作品须可运行于网页或 Windows，并至少使用一个开源 AI 工具，如 Stable Diffusion 可用于纹理生成、NPC 和文本转语音。任何人可个人或组队免费参加，作品按趣味性、创意和主题评分。
Hugging Face BlogAI 评分4141 Hugging Face 推出面向 Amazon SageMaker 的 LLM 推理容器
Hugging Face 发布 LLM Inference Container（DLC），可在 Amazon SageMaker 上部署开源大模型，底层由 Text Generation Inference（TGI）驱动，支持张量并行、动态批处理和 bitsandbytes 量化等能力。
Hugging Face BlogAI 评分1515 Hugging Face Hub 推出 BERTopic 集成
Hugging Face Hub 上线 BERTopic 集成，用户可直接在 Hub 上使用这一主题建模工具。BERTopic 结合嵌入向量与聚类技术，用于从文本中提取话题结构，相关话题建模资源在 HF 平台上被归类为第 19 类主题，与 LDA 等传统方法并列。
Hugging Face Blog精选AI 评分6161 用 NNCF 和 Optimum 为 Intel CPU 优化 Stable Diffusion
Hugging Face 博客介绍了结合 OpenVINO NNCF 量化感知训练、知识蒸馏与 Token Merging 优化 Stable Diffusion 的工作流，在 Intel CPU 上实现相比 PyTorch 5.1 倍推理加速和 4 倍模型体积缩减。
推荐理由：Intel 与 Hugging Face 给出了在 CPU 上压缩 Stable Diffusion 的完整工作流，附推理代码与可复现的量化流程。
Hugging Face BlogAI 评分3434 Hugging Face 与微软合作在 Azure 上线 Hugging Face 模型目录
Hugging Face 与微软合作，把 Hugging Face Hub 上的开源模型接入 Azure Machine Learning，推出原生的 Hugging Face Hub 模型目录，包含 Hub 上数千个热门 Transformers 模型。