跳到正文

#部署/工程

今日 12 条
8月25日周二
  1. Hugging Face Blog67

    Gradio 内置 gr.Workflow:把 AI 流程做成可拖拽的节点图并自动生成 REST API

    Hugging Face 在 Gradio 中内置 gr.Workflow,把多步 AI 流程描述为由引用、算子和输出组成的类型化节点图,Gradio 提供可拖拽画布运行每个节点并展示中间结果。

    推荐理由:原文展示了把多步 AI 流程变成可视化图并自动暴露为 REST 接口的做法,读者可据此判断自己现有脚本能否照此改造。

  2. Meta Engineering63

    Meta 发布首款内置网卡的训练芯片 MTIA 300

    Meta 发布 MTIA 300,这是其自研 MTIA 系列中首款面向排序和推荐模型训练优化的芯片,在芯片封装内集成两个网络 chiplet,各含 6 个定制 800 Gbps RDMA NIC,总 I/O 带宽达 1.2 TB/s,无需经过 PCIe 总线。

    推荐理由:Meta 给出 MTIA 300 的内置网卡与卸载式集合通信设计,可对比传统 GPU 集群的通信瓶颈。

8月24日周一
  1. NVIDIA Developer Blog22

    NVIDIA BlueField-4 为智能体 AI 工厂打造全新 Scale-In 网络基础设施

    NVIDIA BlueField-4 为智能体 AI 工厂提供全新 Scale-In 网络基础设施,面向每服务器多太比特带宽下连接用户、智能体、应用、数据源与存储系统的需求。传统云基础设施是为可预测的通用负载与标准接口设计的,而智能体 AI 工厂需要专用 DPU 处理来实现线速网络、存储与安全。

  2. Import AI23

    Import AI 470:机器不享有权利、SPADE 自动生成训练环境、Hawkeye 优化 GPU kernel

    METR 分析发现 AI 对科研的加速并不均衡:网络安全漏洞报告在 2026 年明显加速,数学研究仅小幅加速(部分领域 arXiv 投稿不到 12 个月翻倍),而 AI 研究本身的算法进展尚无可测加速。多校团队提出 SPADE,用 LLM 自博弈协同进化可执行训练环境,在 Qwen3-30B-A3B 上相比基座提升 8.1。另有用 Hawkeye 构建更好 GPU kernel 的内容。

8月21日周五
  1. NVIDIA Developer Blog31

    NVIDIA AVO 在 ARC-AGI-3 上达到 100%,展示面向长时程自主智能体的前沿级通用架构

    NVIDIA 的 AVO 在 ARC-AGI-3 上取得 100% 成绩,展示了一种面向长时程自主智能体的前沿级通用架构。该工作指出前沿语言模型只是 AI 智能体的一部分,外围的 agent harness 才决定模型如何接收上下文、调用工具、维护状态、响应反馈、从失败中恢复并在长任务中持续推进。

8月20日周四
  1. NVIDIA Developer Blog18

    用 NVIDIA FLARE 构建联邦多模态 AI 工作流

    NVIDIA FLARE 可用于构建联邦多模态 AI 工作流,让视觉问答、图像描述与图文推理等视觉语言模型(VLM)任务在数据无法集中、原始记录分散于各机构的前提下完成协同训练。原文正文指出,现代 VLM 已能支持这些任务,而联邦学习提供了跨数据本地站点协调训练的途径。

8月19日周三
8月18日周二
  1. Hugging Face Blog36

    Hugging Face 博客:约束感知 GPU 调度器让同集群利用率最高提升 33 个百分点

    Hugging Face 博客介绍其自研约束感知 GPU 分配器,在相同硬件、相同负载下与 FIFO 调度器对比测试,GPU 利用率最高提升 33 个百分点,优先级加权产出提升 24.6%–105.1%,平均 52%。在 8 GPU 训练密集型场景中,利用率从 53.6% 升至 87.0%,产出提升 105%。该分配器将实时推理需求视为随时步变化的曲线,批式任务按优先级在整个调度周期内排布。

8月17日周一
  1. IEEE Spectrum · AI46

    AMD 谈从 AI Copilot 到 AI 智能体集群的软件工程变革

    AMD 一年内将 AI 带来的整体生产力提升做到 30%,超过原定两到三年 25% 的目标,其 AI 生成生产代码占比已突破 20%、部分组件超 80%。AMD 在 Radeon Software eXperience 中用 AI 智能体自动修复问题,比例从最初 6% 升至 2026 年 6 月的 75%,并正通过 Codex、Claude Code 等智能体框架探索多智能体协作。

8月15日周六
  1. Ahead of AI · Sebastian Raschka40

    从零构建 AI 文本检测器:用 DistilBERT 微调打分并训练小模型规避检测

    Sebastian Raschka 发布教程,演示如何从零构建 AI 文本检测器:微调 DistilBERT 分类器输出 0-100 的 AI 生成概率分,并提供本地浏览器 UI 与 API,可对整篇文本打分并高亮各文本块的分数。项目还用该检测器作为 verifier,训练小语言模型生成能规避检测的文本,以研究 AI 检测器的局限。

8月13日周四
  1. NVIDIA Developer Blog69

    阿里开放 Qwen3.8-2.4T-A95B 权重,2.4T 参数、单 token 激活 95B

    阿里开放了 Qwen3.8-2.4T-A95B(Qwen3.8-Max)的模型权重,这是其目前最大的开放权重模型。该模型总参数 2.4T、单 token 激活 95B,采用细粒度 MoE 架构,混合全注意力与线性注意力,上下文窗口最高 100 万 token。NVIDIA 开发者博客介绍在 GB300 NVL72 上部署该模型并支持可配置推理。

    推荐理由:摘要给出 Qwen3.8-2.4T-A95B 的开放权重与关键规格,读者可借此了解其 MoE 结构与长上下文配置。

  2. NVIDIA Developer Blog16

    NVIDIA AI 工厂如何选择全栈可观测性方案

    NVIDIA 发布指南,讲解如何为 AI 工厂选择全栈可观测性方案。AI 基础设施横跨计算、网络、存储、编排与应用多层,性能下降时某一层观察到的症状可能源自栈内其他位置,全栈可观测性通过打通各层遥测数据帮助运维团队定位问题根源。

8月12日周三
  1. Google DeepMind76

    Google DeepMind 发布多语种手语转文本模型 SL2T,首发 Gboard 与 Live Transcribe

    Google DeepMind 发布多语种手语转文本模型 SL2T,并在 Pixel 11 的 Gboard 与 Live Transcribe 中以 ASL 转英文的听写功能首次进入消费产品,训练数据超 10 万小时、覆盖 50 多种手语。

    推荐理由:官方给出了 SL2T 的数据规模、基准成绩和隐私处理方式,可据此判断手语翻译在消费端落地的可行边界。

  2. Meta Engineering62

    Meta 如何在 WhatsApp 以端到端加密与可验证性构建 Scam Alert

    Meta 在 WhatsApp 上构建了可选的 Scam Alert 功能,用端侧机器学习模型在本地对来自非联系人的消息做诈骗概率分类,消息内容不会离开设备,也不会被自动上报。

    推荐理由:原文给出 WhatsApp 端侧反诈告警的隐私架构与可验证设计,读者可了解端侧模型在加密通信场景的完整工程路径。

8月11日周二
  1. NVIDIA Developer Blog30

    NVIDIA NeMo Switchyard:在多模型间路由 AI 智能体工作负载

    NVIDIA 推出 NeMo Switchyard,用于在多个模型之间路由 AI 智能体工作负载。由于每个模型在能力、弱点和成本上各有差异,且这些差异会随工作负载甚至同一工作负载内的不同步骤而变化,智能体任务可能需要分类、推理,以及用小模型处理常规后续任务。该方案针对把所有请求都发给最大模型的做法。

8月10日周一
  1. NVIDIA Developer Blog64

    Meta 开源 Muse Glimmer:30B 稠密模型,面向本地智能体工作流

    Meta 重返开源生态,发布 Muse Glimmer,一个 30B 开源权重稠密模型,上下文窗口超过 120K,面向本地 AI 智能体工作。该模型针对 NVIDIA 边缘、桌面和工作站 AI 平台优化,可在单 GPU 上达到 20K tokens/sec,让常驻智能体在本地处理数据并执行复杂任务。

    推荐理由:Meta 回归开源发布 30B 本地智能体模型,并给出单 GPU 吞吐数字和运行平台范围。

8月6日周四
8月4日周二
  1. Microsoft Research71

    微软开源 Orchard:可扩展智能体 AI 框架

    微软研究院发布开源框架 Orchard,核心是 Orchard Env——一个基于 Kubernetes 的可复用环境服务,支持软件工程、网页导航和个人助理等任务,并能在 Codex、OpenClaw、ZeroClaw 等真实部署 harness 中直接训练智能体。

    推荐理由:微软开源 Orchard 框架,把训练环境做成可复用服务,读者可据此理解小模型如何直接在真实 harness 中训练。

  2. NVIDIA Developer Blog15

    如何在共享 GPU 基础设施上运行隔离的租户 Kubernetes 集群

    NVIDIA 介绍如何在共享 GPU 基础设施上运行隔离的租户 Kubernetes 集群。每团队一套专用集群往往带来超出组织所需的隔离程度,而单集群多团队共享虽可行,但随着团队增多协调成本上升,会出现 CRD 版本冲突、RBAC 重叠,且无法把 GPU 容量干净地划分为团队级预算。

  3. NVIDIA Developer Blog22

    NVIDIA Vera Storage 基准测试:为 AI 原生存储带来更快的加密、压缩、完整性校验与恢复

    NVIDIA 公布 Vera Storage 基准测试结果,针对智能体 AI 工作流中的加密、压缩、完整性校验与恢复性能进行评测。该存储需持续支撑企业知识检索、持久内存访问和 KV cache 复用等操作,每个智能体步骤可能触发多次存储操作并在流程中重复。

8月1日周六
7月31日周五