如何在 Chrome 扩展中使用 Transformers.js
Hugging Face 发布基于 Gemma 4 E2B 的 Transformers.js 浏览器扩展,演示如何在 Manifest V3 约束下本地运行 AI。
Hugging Face 发布基于 Gemma 4 E2B 的 Transformers.js 浏览器扩展,演示如何在 Manifest V3 约束下本地运行 AI。
Sebastian Raschka 分享了他绘制 LLM 架构图的工作流:先从官方技术报告入手,但如今论文细节常不如以往,尤其工业实验室的开源权重模型。若模型权重发布在 Hugging Face Model Hub 且被 Python transformers 库支持,可直接查看 config 文件与参考实现,"能跑通的"代码不会说谎。
Hugging Face 发布一个 Skill 和配套的非智能体测试框架,帮助把语言模型从 transformers 移植到 mlx-lm,让模型加入 transformers 后能很快在 MLX 上可用。
微调 Qwen/Qwen3-VL-Embedding-2B 做视觉文档检索(VDR),在作者评测数据上 NDCG@10 从基座的 0.888 提升到 0.947,超过其测试的所有现有 VDR 模型,包括体积达 4 倍的模型。
Hugging Face 发布 Sentence Transformers v5.4,可在同一套 API 下编码和比较文本、图像、音频与视频,用于视觉文档检索、跨模态搜索和多模态 RAG。
推荐理由:官方博客给出 Sentence Transformers v5.4 多模态嵌入与重排序的完整代码用法和模型清单,可直接照抄跑通流程。
编码智能体的能力差异更多来自模型外围的 agentic harness,而非模型本身。Claude Code、Codex CLI 等编码工具本质是把 LLM 包在应用层里的编码 harness,负责仓库上下文、工具设计、提示词缓存稳定性、记忆与长会话连续性。文章将其拆解为模型家族、agent 循环与运行时支持三层,循环内含 observe、inspect、choose、act 四步。
Gradio 发布 gradio.Server,扩展 FastAPI,在原路由基础上叠加 Gradio 的 API 引擎,提供排队、SSE 流式、并发控制和 gradio_client 兼容。
推荐理由:Gradio 新 Server 模式把排队、并发与 ZeroGPU 能力开放给任意前端框架,读者可据此评估自建前端的后端选型。
Anthropic 限制 Pro/Max 订阅者在开放智能体平台中使用 Claude 模型,Hugging Face 博客给出把 OpenClaw、Pi、Open Code 等智能体迁移到开源模型的两条路径。
Sebastian Raschka 发布 LLM 架构图库(含 45 个条目),每个条目配有可视化模型卡,并推出 Redbubble 海报版。文章同时系统梳理现代开源权重模型中采用的各类注意力变体,从标准多头注意力(MHA)讲起,覆盖分组查询注意力、滑动窗口注意力等,示例架构包括 GPT-2、OLMo 2 7B 和 OLMo 3 7B。
NVIDIA 发布一套在单张 GPU 上不到一天完成领域嵌入模型微调的流程,基于 Llama-Nemotron-Embed-1B-v2,无需人工标注。流程用 nemotron-3-nano-30b-a3b 从领域文档生成合成问答数据、挖掘难负样本并做多跳展开,再用对比学习微调,实测 nDCG@10 与 Recall@10 均提升约 10%。
推荐理由:NVIDIA 给出了从合成数据、难负样本挖掘到 ONNX/TensorRT 部署的完整嵌入模型微调配方,附真实评测数字。
Hugging Face 对 16 个开源强化学习库做了横评,梳理出异步 RL 训练的通用架构:把推理与训练拆到不同 GPU 池、用 rollout buffer 连接并异步同步权重,避免生成期训练 GPU 空转。
Snowflake AI Research 的 Ulysses 序列并行(属 Arctic Long Sequence Training 协议)通过将注意力头拆分到多 GPU,解决超长上下文的显存瓶颈。
Hugging Face 发布 NXP 的嵌入式机器人 AI 实操指南,覆盖数据集录制、VLA 策略微调(ACT 与 SmolVLA)及端侧优化。指南建议采用顶视、夹爪、左视三摄像头配置,按 10×10 cm 划分 11 个工作区簇、每簇至少录制 10 个 episode,并用 20% 恢复型 episode 提升成功率。
Hugging Face 博客发布 PRX 系列第三篇,用 32 张 H200、约 1500 美元算力预算(2 美元/小时/GPU)在 24 小时内完成文本到图像扩散模型训练。该方案堆叠 x-prediction 像素空间训练、LPIPS 与 DINOv2 感知损失、TREAD token 路由、REPA 对齐及 Muon 优化器,并开源训练代码。
Hugging Face 发布长文,介绍 transformers 库为支持 MoE 稀疏架构所做的改造,涵盖权重加载重构、专家后端、专家并行与 MoE 训练四部分。
Hugging Face 发布教程,介绍如何通过 Claude Code、Codex 等编码智能体结合 Unsloth 与 Hugging Face Jobs 微调小模型(示例为 LiquidAI/LFM2.5-1.2B-Instruct)。
推荐理由:原文给出从安装 Skill 到提交 HF Jobs 的完整命令与分档价格,读者可照此复现小模型微调流程。
Gradio 6 为 gr.HTML 加入自定义模板、作用域 CSS 和 JavaScript 交互能力,前端、后端与状态管理可以全部写进单个 Python 文件,无需构建步骤,几秒内部署到 HF Space。
推荐理由:Gradio 6 的 gr.HTML 打通了单文件前后端与状态同步,读者可据此判断 LLM 一句话生成完整 Web 应用的工作流是否可行。
Hugging Face 构建了一个 agent skill,教编码智能体编写生产级 CUDA kernel,并让 Claude 和 Codex 针对 diffusers 的 LTX-Video 与 transformers 的 Qwen3-8B 两个真实目标端到端生成了可运行的 kernel,包含正确的 PyTorch 绑定与基准脚本。
推荐理由:Hugging Face 把 CUDA kernel 开发知识封装成可安装的 Agent 技能,并给出两组真实基准,读者可据此判断它在自有项目中的复用价值。
Hugging Face 博客介绍 Meta 与 HF Mirror 合作的开源框架 OpenEnv,它用 gym 风格 API 和标准 MCP 工具调用接口把智能体接入真实工具与 API,而非模拟环境。
Hugging Face 博客发布 PRX 文本到图像模型训练系列第二部分,用统一实验设置复现并消融近期训练技巧,评估其对收敛与效率的影响。基线为 1.2B 参数的 PRX-1.2B,纯 Flow Matching、无额外目标,训练 100k 步、256×256 分辨率、全局 batch size 256,用 FID、CMMD、DINO-MMD 与吞吐量监控。
Hugging Face 博客介绍新工具 upskill,用大模型生成并评估 agent 技能,再交给小模型使用,在编写 CUDA kernel 任务上做了基准测试。
推荐理由:用教师模型生成 Skill 再迁移到小模型的完整流程,读者可据此评估自己场景下的迁移收益。
Hugging Face 博客复盘了用 verl 框架对 GPT-OSS-20B 做智能体强化学习训练的过程,该模型此前已被验证性能接近 OpenAI o3-mini 和 o4-mini,但尚未验证是否适合智能体 RL 训练。
LLM 推理时扩展(inference-time scaling)通过投入更多推理算力提升答案质量,已成为各大模型厂商的常规手段。Sebastian Raschka 将现有方法归为六大类:思维链提示、自一致性、Best-of-N 排序、带验证器的拒绝采样、自 refinement 与解路径搜索,并介绍了近几个月的新工作。
OpenAI 发布一份实用指南,展示小团队如何借助 ChatGPT 完成数据分析、制作营销素材、管理预算、主持会议并做出更优决策。指南聚焦小团队在资源有限下用 ChatGPT 覆盖多项日常运营任务,属于实操性使用指导,未披露具体模型版本或性能数据。
OpenAI 发布构建 AI 智能体的实用指南,覆盖用例设计、模型选择、工具设计、护栏机制与多智能体模式。指南面向智能体的设计、编排与部署全流程,给出可落地的实践方法。
OpenAI 发布面向初创企业的 GPT-5 模型系列实用指南,涵盖迁移至 Responses API、设计智能体、调优提示词、引导 GPT-5 模型以及构建可靠 AI 工作流。
OpenAI 详解其内部团队如何借助 Codex 理解代码、重构系统、提升性能并加快工程节奏,从而改善整体开发工作流。
NVIDIA 在 CES 2026 展示了用 DGX Spark 驱动 Reachy Mini 桌面机器人搭建个人智能体的方案,并发布逐步复现教程。
推荐理由:原文给出从推理模型到机器人动作的完整可复现步骤,可迁移到自建私有语音与视觉智能体。
Hugging Face 发布 Transformers v5,将 tokenizer 设计从已训练词表中分离,类似 PyTorch 将网络架构与学习权重分开,使 tokenizer 更易检查、定制和从头训练。
Hugging Face 发布教程,展示如何用 HF Skills 让 OpenAI Codex 完成端到端机器学习实验:验证数据集、选择硬件、生成并提交训练任务、监控进度、评估模型并生成报告。
推荐理由:完整演示了把端到端微调实验交给编码智能体的整套流程,可据此迁移到自己的训练任务。
Hugging Face 发布 HF Skills,通过 hf-llm-trainer 等技能让 Claude Code、Codex、Gemini CLI 直接提交云端 GPU 微调任务并推送到 Hub。技能支持 SFT、DPO 和 GRPO,可训练 0.5B 到 70B 参数模型并转换为 GGUF 本地部署,官方示例微调 Qwen3-0.6B 约需 20 分钟、0.30 美元。
推荐理由:官方给出从数据校验、选卡到提交训练和转 GGUF 的完整流程与成本区间,可直接照做。
Sebastian Raschka 梳理了 DeepSeek V3 到 V3.2 的演进,指出 V3.2 沿用 V3.2-Exp 的架构,核心变化是加入 DeepSeek Sparse Attention(DSA)以提升效率。
推荐理由:以 DeepSeek 技术报告为线索,梳理 V3 到 V3.2 的架构与训练变化,帮助读者看清稀疏注意力和 RL 奖励设计的取舍。
Hugging Face 博客从注意力机制与 KV 缓存出发,用吞吐量优化推导出 continuous batching:通过并行处理多段对话、完成即换出来提升高负载场景下的推理性能。
Tavily 分享了其深度研究智能体的构建经验,该系统通过自研 agent harness 在上下文管理、工具调用与错误处理上做优化,达到 SOTA。团队曾在七个月前彻底放弃第一版架构重写系统,原因是复杂设计在下一代模型出现后成为瓶颈。
HF Mirror 的 kernels 库支持用 kernel-builder 构建并向 kernels-community 分享 GPU 内核,覆盖 CUDA、ROCm、Metal、XPU 等后端,并与 PyTorch 无缝集成。
Sebastian Raschka 撰文梳理标准 Transformer 之外的 LLM 替代架构,覆盖文本扩散模型、线性注意力混合架构和代码世界模型等方向。部分方案主打更高效率,另一些如代码世界模型意在提升建模性能。他此前发布的 Big LLM Architecture Comparison 聚焦主流 Transformer 架构,本次文章回应了读者对替代路线的疑问。
MiniMax 在 Hugging Face 博客复盘 M2 后训练中的智能体对齐经验:智能体泛化不只是适配新工具,而要适应工具信息、系统提示词、用户提示词、环境与工具返回等全流程扰动。
NVIDIA 发布 Isaac for Healthcare v0.4,提供基于 SO-ARM 的端到端入门工作流和"自带手术室"教程,覆盖数据采集、训练与部署全流程。
NVIDIA 发布 Isaac for Healthcare v0.4,提供基于 SO-ARM 的端到端起步工作流和自带手术室教程,覆盖从仿真采数据、训练策略到真机部署的完整链路。
Hugging Face 发布博客提出「voice consent gate」(语音同意门)方案,让语音克隆模型只有在说话人明确说出同意语句并被 ASR 识别后才启动。该方案由三部分组成:生成约 20 词、含同意短语和模型名的随机英文句子,用 ASR 识别同意语句,再由 TTS 语音克隆系统合成语音。团队同时放出示例 Space 和配套代码,并建议同意录音直接来自麦克风而非上传文件。