使用 GPT-4o 协作与写作
GPT-4o 让写作与协作更自然,帮助团队更快地起草、修改和调整语气。
GPT-4o 让写作与协作更自然,帮助团队更快地起草、修改和调整语气。
OpenAI o3 可对复杂任务进行推理,帮助自动化多步骤工作流。该模型面向需要多步推理与流程编排的场景,官方展示了其在这类任务中的应用方式。
ChatGPT 现可连接 Google Drive,调用其中的内部知识并结合相关上下文回答问题。
Lowe's 基于 OpenAI 模型打造 Mylow 与 Mylow Companion,帮助顾客和员工解答家装问题,累计已回答超 2500 万个问题,推动家装项目落地。
Qwen-3 的 Chat Template 比 Qwen-2.5 和 QwQ 更复杂:通过 enable_thinking 标志可将推理设为可选,设为 false 时模板插入空思考块,让模型跳过逐步推理,而 QwQ 等早期模型强制每轮生成思维链。
Gradio 发布教程,演示如何用几行 Python 把任意 Gradio 应用启动为 MCP server,让 LLM 以工具形式调用。只需在 demo.launch() 中设置 mcp_server=True,即可同时启动 Web 界面与 MCP server,并生成可粘贴到 Claude Desktop、Cursor、Cline 等 MCP Client 的配置。
Intel 发布开源量化工具 AutoRound,这是一种权重-only 的训练后量化(PTQ)方法,通过符号梯度下降联合优化权重的取整与截断范围,支持 INT2-INT8 低比特量化。
Meta 发布 Llama Guard 4 和两个 Llama Prompt Guard 2 安全模型。
ServiceNow 开源实验性 RL 实现 PipelineRL,核心是在 RL 训练中做 inflight 权重更新:每次优化器更新后不停止推理就把新权重广播到推理服务器,从而在保持高推理吞吐的同时让数据接近 on-policy。
Hugging Face 发布 Tiny Agents 教程,演示如何用约 50 行 TypeScript 代码在推理客户端之上实现一个 MCP 驱动的智能体。
推荐理由:文章给出一个约 50 行的 MCP 智能体实现,读者可据此理解工具调用与 MCP 客户端如何拼装成完整智能体。
TNG 基于 olmOCR-7B-0225-preview 微调出忠实版 OCR 引擎,解决了原模型为生成训练数据而刻意忽略页眉页脚信息的问题。团队用 Qwen2.5-VL-72B-Instruct 生成 8000 份文档数据集,在 8xH100 节点上训练 2.5 个 epoch,发票等文档的页眉页脚关键信息现可完整提取,同时保留简单表格与多栏布局解析能力。
LLM 的 token 生成分为可并行处理提示词的 prefill 阶段和只能逐个生成的 decode 阶段,两者分别对应首 token 延迟和单 token 延迟。在 24 张 H100 组成的集群上自托管大模型时,decode 阶段受 GPU 显存带宽限制,可通过批处理多请求提升利用率。低并发下吞吐随并发数近线性增长,GPU 利用率饱和后吞吐不再提升,总吞吐与单请求延迟之间存在权衡。
Hugging Face 发布 HELMET 长上下文语言模型评估基准,已评估 59 个近期 LCLM,主张跨多样下游任务评估才能真正区分模型能力。
Gradio 官方撰文列出 17 个理由,说明它不只是 Python UI 库,而是同时提供 UI 与 API 的机器学习应用框架。
Cohere 现已作为 Inference Provider 接入 HF Hub,成为首个直接在 Hub 上分享并提供模型推理的模型厂商。
Hugging Face 与 Protect AI 合作半年,Guardian 已扫描 HF Hub 上 141 万个仓库中的 447 万个唯一模型版本,在 5.17 万个模型中识别出 35.2 万个不安全或可疑问题。
Hugging Face 宣布收购已成立 9 年的开源机器人公司 Pollen Robotics,这是其继 Gradio、XetHub 之后的第五次收购。公司同时开始售卖首款机器人 Reachy 2,这款开源且兼容 VR 的人形机器人面向研究、教育与具身 AI 实验,售价 7 万美元,可通过邮件订购,已在康奈尔、卡内基梅隆等实验室使用。
ChatGPT 可规划调研步骤、进行搜索、阅读来源,并汇总生成一份详细的研究报告,用于支持市场分析。
ChatGPT 的 canvas 可以把产品需求文档(PRD)直接转成可运行的 HTML/React 原型。演示展示了从 PRD 到可运行原型的完整流程。
ChatGPT Projects 可用于整理文件、保存上下文,并让跨工作流的对话保持一致。该功能帮助用户在同一项目内维持连贯的对话与资料组织。
语言技术实验室发布 Visual Salamandra,把 70 亿参数的 Salamandra 大语言模型扩展至图像和视频多模态任务,并以 SigLIP-So400m 编码器、2 层 MLP 投影器与 late-fusion 架构实现视觉-语言对齐。
HF Mirror 与 Cloudflare 达成合作,FastRTC 开发者用一个 HF Mirror token 即可接入 Cloudflare 覆盖 335 个以上地点的全球 TURN 网络。
Hugging Face 与 MBZUAI 合作推出 Arabic-Leaderboards Space,将阿拉伯语 AI 评测集中到一处,目前上线 AraGen-03-25 和阿拉伯语指令遵循两个榜单。
ChatGPT 的 canvas 能把手写笔记、转录文本和草稿整理成润色后的成稿,OpenAI 展示了这一写作流程。该功能面向写作场景,帮助用户从零散素材直接产出完整文稿。
ChatGPT 可支持战略规划:分析背景信息、生成多种选项,并把决策转化为下一步行动。这是 OpenAI 给出的用法说明,未涉及具体模型版本或新功能。
ChatGPT 的视觉与语音功能可帮助团队处理多模态输入,并更自然地进行沟通。该内容展示了这两项能力在团队协作场景中的实际用法。
ChatGPT 现在可以把生成的代码直接送入 IDE,以加速开发工作流。该能力用于衔接模型产出与实际编码环境,减少手动复制粘贴的环节。
Meta 发布 Llama 4 Maverick(约 400B 总参数、17B 激活)和 Llama 4 Scout(约 109B 总参数、17B 激活)两款原生多模态 MoE 模型,权重已上线 Hugging Face 的 meta-llama 组织,含 base 与 instruct 版本,需先接受 Llama 4 社区许可协议。
推荐理由:Meta 同日发布 Llama 4 Maverick 与 Scout 两款 MoE 多模态模型,并给出架构细节与 Hugging Face 侧集成方式。
Gradio 上线 5 年后月度开发者用户突破 100 万,Automatic1111、Oobabooga 的 Text Generation WebUI、Dall-E Mini、LLaMA-Factory 等热门开源项目均在使用。
Hugging Face 把已有 3 年历史的 NLP Course 更名为 LLM Course,并新增微调 LLM、构建 DeepSeek R1 等推理模型的新章节。
TNG Technology Consulting 提出在自建 LLM-Server 中为每个用户和模型设置独立队列,并采用轮询式公平调度替代 FIFO,避免单个"重度用户"占满队列阻塞他人。该方案通过 vLLM 的 /metrics 端点读取后端队列长度指标、动态控制请求下发速率以保持短队列,从而降低新用户延迟。文章还讨论了按请求数、处理时长、KV-cache 命中和优先级分级等公平性扩展方向。
Hugging Face 将密钥管理从 AWS 单云环境迁移到 Infisical,以支撑 Hub 上超 400 万开发者、每分钟超 1000 万请求的规模。此前团队评估过 HashiCorp Vault,最终选择 Infisical,通过其 Kubernetes Operator 自动同步密钥,并借助 Okta 集成实现基于 RBAC 的细粒度权限控制。
Hugging Face 通过 PR #3091 将 Intel Gaudi 支持原生集成进 TGI 主代码库,不再维护独立的 tgi-gaudi 分支,基于新的多后端架构直接支持 Gaudi1/2/3,分别可运行于 AWS EC2 DL1、Intel Tiber AI Cloud、IBM Cloud 及 Dell、HP、Supermicro 等 OEM 硬件。
DeepSeek-V3 的更新版 DeepSeek-V3-0324 本周出现在 Hugging Face Hub 上,架构与原始 V3 相同,许可证由自定义模型许可改为 MIT。
推荐理由:梳理了 DeepSeek-V3 更新版在数学与代码基准上的提升幅度,并给出本地部署与量化方案。
Hugging Face 发布教程,介绍如何用 Sentence Transformers 库微调 reranker(Cross Encoder)模型,覆盖数据集、损失函数、训练参数、评估器和 CrossEncoderTrainer 各组件。
Gradio 发布 gr.Dataframe 组件的大规模更新,过去 6 周关闭了 70 多个相关 issue。新增多单元格选择、行号列与 pinned_columns 列固定、复制与全屏按钮、行列选择、static_columns 静态列,以及通过 show_search 参数启用的搜索和过滤功能,同时升级了键盘导航无障碍支持与样式。
Hugging Face 为 Inference Endpoints 更新分析面板,指标数据改为实时更新,并重构后端以保证高流量端点下数据快速加载。新版本支持自定义时间范围与自动刷新,还新增副本生命周期视图,可追踪每个副本从初始化到终止的每次状态转换。这些更新已上线,官方表示仍在持续迭代并征求反馈。
Hugging Face 博客给出用 LM Studio 在本地运行 OlympicCoder 7B 的 4bit GGUF 量化版,并通过 Continue 扩展接入 VS Code 的完整步骤。该 7B 模型在 LiveCodeBench 评测中超过 Claude 3.7 Sonnet 和 GPT-4o,因为基于 CodeForces-CoTs 数据集优化,风格偏向竞赛型而非解释型。
Hugging Face 于 3 月 14 日向白宫 OSTP 的 AI 行动计划 RFI 提交回应,主张开放 AI 系统与开放科学是提升性能、采用率和安全性的基础。
Hugging Face 已将首批模型和数据集仓库从 LFS 迁移至 Xet 存储,约 6% 的 Hub 下载流量切换到 Xet 基础设施。Xet 采用内容定义分块(CDC),按约 64KB 块做字节级去重,改一个 Parquet 文件的一行只需上传变更块,而 LFS 需重传整个文件。2 月 20 日当天共迁移 4.5 TB 仓库数据,迁移后 CAS 的下载量一度达到返回给客户端的四倍。