跳到正文

#部署/工程

今日 3 条
5月16日周六
  1. Google DeepMind60

    Google DeepMind 的 WeatherNext 如何帮助美国国家飓风中心预测飓风 Melissa 登陆牙买加

    Google DeepMind 与 Google Research 的 AI 天气模型 WeatherNext 帮助美国国家飓风中心(NHC)提前五天以 80% 置信度预测飓风 Melissa 将在牙买加以 Category 5 强度登陆,三天的置信度接近 100%,这是首次从 Category 1 风速起步预测风暴达到 Category 5 强度。

    推荐理由:Google DeepMind 披露 WeatherNext 在飓风 Melissa 预警中的实战表现,读者可看到 AI 气象模型对路径与强度的同时预测能力。

5月14日周四
  1. Hugging Face Blog64

    Hugging Face 详解连续批处理中的异步化:用 CUDA 流与事件消除 CPU-GPU 串行等待

    Hugging Face 博客发布第二篇高效 LLM 推理系列文章,讲解如何在连续批处理中实现异步化:将 CPU 的批准备与 GPU 的计算解耦,用 H2D、compute、D2H 三个非默认 CUDA 流配合 CUDA event 跨流同步,并处理双缓冲防数据竞争与 carry-over 传递新 token。

    推荐理由:以 CPU 与 GPU 串行浪费为主线,给出三流分离与 CUDA event 同步的异步批处理实现思路,可迁移到长序列推理部署优化。

5月12日周二
5月8日周五
5月7日周四
4月29日周三
4月27日周一
4月23日周四
4月22日周三
4月16日周四
4月13日周一
  1. Google DeepMind71

    Google DeepMind 发布 Gemini Robotics-ER 1.6

    Google DeepMind 发布 Gemini Robotics-ER 1.6,这是其面向机器人的推理优先模型的一次重大升级,增强了空间推理与多视角理解,并新增仪表读数能力。

    推荐理由:官方给出新版本在空间推理、成功检测与仪表读数上的能力变化,以及 API 与 AI Studio 的开放入口。

4月8日周三
4月1日周三
3月21日周六
  1. Hugging Face Blog63

    如何在一天内构建领域专用嵌入模型

    NVIDIA 发布一套在单张 GPU 上不到一天完成领域嵌入模型微调的流程,基于 Llama-Nemotron-Embed-1B-v2,无需人工标注。流程用 nemotron-3-nano-30b-a3b 从领域文档生成合成问答数据、挖掘难负样本并做多跳展开,再用对比学习微调,实测 nDCG@10 与 Recall@10 均提升约 10%。

    推荐理由:NVIDIA 给出了从合成数据、难负样本挖掘到 ONNX/TensorRT 部署的完整嵌入模型微调配方,附真实评测数字。

3月10日周二
3月9日周一
3月5日周四
2月26日周四
2月18日周三
  1. Hugging Face Blog62

    Gradio 6 的 gr.HTML 支持自定义模板,可一句话生成完整 Web 应用

    Gradio 6 为 gr.HTML 加入自定义模板、作用域 CSS 和 JavaScript 交互能力,前端、后端与状态管理可以全部写进单个 Python 文件,无需构建步骤,几秒内部署到 HF Space。

    推荐理由:Gradio 6 的 gr.HTML 打通了单文件前后端与状态同步,读者可据此判断 LLM 一句话生成完整 Web 应用的工作流是否可行。

2月13日周五
  1. Hugging Face Blog69

    Hugging Face 发布 CUDA 内核 Agent 技能,让 Codex 与 Claude 自动生成生产级 kernel

    Hugging Face 构建了一个 agent skill,教编码智能体编写生产级 CUDA kernel,并让 Claude 和 Codex 针对 diffusers 的 LTX-Video 与 transformers 的 Qwen3-8B 两个真实目标端到端生成了可运行的 kernel,包含正确的 PyTorch 绑定与基准脚本。

    推荐理由:Hugging Face 把 CUDA kernel 开发知识封装成可安装的 Agent 技能,并给出两组真实基准,读者可据此判断它在自有项目中的复用价值。

2月9日周一
1月27日周二
1月21日周三
1月20日周二
1月15日周四
1月6日周二
  1. Hugging Face Blog68

    NVIDIA 发布 Cosmos Reason 2,面向物理 AI 的开源推理视觉语言模型

    NVIDIA 发布面向物理 AI 的开源推理视觉语言模型 Cosmos Reason 2,提供 2B 和 8B 两种参数规模,在 Physical AI Bench 和 Physical Reasoning 榜单上位列开源模型第一。

    推荐理由:Cosmos Reason 2 给出 2B/8B 开源权重的具体升级项与评测数据,可据此判断物理 AI 推理模型的当前水位。

12月11日周四
12月5日周五
12月1日周一
  1. Hugging Face Blog70

    Hugging Face 发布 Transformers v5:简化模型定义并强化推理与量化

    Hugging Face 发布 Transformers v5 首个候选版本 v5.0.0rc-0,主题为互操作性。官方称该库每日 pip 安装量已超 300 万次,累计安装超 12 亿次,支持的模型架构从 v4 时的 40 个增至 400 余个,Hub 上兼容的模型 checkpoint 超过 75 万个。

    推荐理由:官方长文给出 v5 在模块化定义、推理接口与量化上的改动,读者可据此判断迁移成本与生态兼容性。

11月25日周二
11月21日周五
11月20日周四
11月19日周三
11月17日周一
11月14日周五