跳到正文

#部署/工程

今日 0 条
10月14日周三
10月10日周六
10月9日周五
10月8日周四
  1. AWS Machine Learning Blog70

    Claude Haiku 5.5 在 AWS 上线,主打低成本高频子智能体任务

    Anthropic 的 Claude Haiku 5.5 已在 Amazon Bedrock 和 Claude Platform on AWS 上线,是 Claude 5.5 系列中最快、最高效的模型,面向子智能体和高频成本敏感任务,多数任务成本比 Claude Haiku 4.5 低约 75%。

    推荐理由:Claude Haiku 5.5 在 Amazon Bedrock 上线,给出了成本、effort controls 与和 Opus 5.5 搭配的分工方式。

10月7日周三
  1. Simon Willison26

    EmbeddingGemma 2 采用 Apache 2.0 许可

    Simon Willison 对 EmbeddingGemma 2 采用 Apache 2.0 许可表示赞赏。他指出嵌入模型涉及存储成千上万甚至数百万条嵌入向量,若模型闭源托管,厂商一旦停服,用户就得付费重新计算所有存量向量,而 OpenAI 在 2024 年 4 月的补偿承诺并不可普遍依赖。他更愿付费使用托管版本,同时保留自行运行开放权重或另寻供应商的余地。

10月6日周二
10月4日周日
10月3日周六
9月24日周四
8月27日周四
8月21日周五
8月18日周二
8月13日周四
  1. NVIDIA Developer Blog69

    阿里开放 Qwen3.8-2.4T-A95B 权重,2.4T 参数、单 token 激活 95B

    阿里开放了 Qwen3.8-2.4T-A95B(Qwen3.8-Max)的模型权重,这是其目前最大的开放权重模型。该模型总参数 2.4T、单 token 激活 95B,采用细粒度 MoE 架构,混合全注意力与线性注意力,上下文窗口最高 100 万 token。NVIDIA 开发者博客介绍在 GB300 NVL72 上部署该模型并支持可配置推理。

    推荐理由:摘要给出 Qwen3.8-2.4T-A95B 的开放权重与关键规格,读者可借此了解其 MoE 结构与长上下文配置。

8月12日周三
  1. Google DeepMind76

    Google DeepMind 发布多语种手语转文本模型 SL2T,首发 Gboard 与 Live Transcribe

    Google DeepMind 发布多语种手语转文本模型 SL2T,并在 Pixel 11 的 Gboard 与 Live Transcribe 中以 ASL 转英文的听写功能首次进入消费产品,训练数据超 10 万小时、覆盖 50 多种手语。

    推荐理由:官方给出了 SL2T 的数据规模、基准成绩和隐私处理方式,可据此判断手语翻译在消费端落地的可行边界。

8月11日周二
8月10日周一
  1. NVIDIA Developer Blog64

    Meta 开源 Muse Glimmer:30B 稠密模型,面向本地智能体工作流

    Meta 重返开源生态,发布 Muse Glimmer,一个 30B 开源权重稠密模型,上下文窗口超过 120K,面向本地 AI 智能体工作。该模型针对 NVIDIA 边缘、桌面和工作站 AI 平台优化,可在单 GPU 上达到 20K tokens/sec,让常驻智能体在本地处理数据并执行复杂任务。

    推荐理由:Meta 回归开源发布 30B 本地智能体模型,并给出单 GPU 吞吐数字和运行平台范围。

7月30日周四
  1. Google DeepMind76

    Google DeepMind 发布 Gemini Robotics ER 2,为机器人带来视频理解、任务编排与多机器人协作

    Google DeepMind 发布面向机器人的具身推理模型 Gemini Robotics ER 2,作为高层“大脑”负责对话、理解物理世界并规划多步任务,再把电机执行交给底层 VLA 模型。

    推荐理由:Gemini Robotics ER 2 给出了多机器人协作与视频进度追踪的能力细节和开发者接入方式。

7月27日周一
7月22日周三
7月15日周三
6月22日周一
6月11日周四
  1. Google DeepMind67

    Google DeepMind 发布 DiffusionGemma:文本扩散模型推理最高提速 4 倍

    Google DeepMind 发布实验性开源模型 DiffusionGemma,采用文本扩散方式一次性生成 256 个 token,在专用 GPU 上文本生成最高提速 4 倍,单张 NVIDIA H100 上超过 1000 tokens/秒,RTX 5090 上超过 700 tokens/秒。

    推荐理由:官方给出 4x 推理加速的实测数字与本地低并发场景边界,读者可据此判断它适合哪些交互式工作流。

6月2日周二
4月13日周一
  1. Google DeepMind71

    Google DeepMind 发布 Gemini Robotics-ER 1.6

    Google DeepMind 发布 Gemini Robotics-ER 1.6,这是其面向机器人的推理优先模型的一次重大升级,增强了空间推理与多视角理解,并新增仪表读数能力。

    推荐理由:官方给出新版本在空间推理、成功检测与仪表读数上的能力变化,以及 API 与 AI Studio 的开放入口。

1月6日周二
  1. Hugging Face Blog68

    NVIDIA 发布 Cosmos Reason 2,面向物理 AI 的开源推理视觉语言模型

    NVIDIA 发布面向物理 AI 的开源推理视觉语言模型 Cosmos Reason 2,提供 2B 和 8B 两种参数规模,在 Physical AI Bench 和 Physical Reasoning 榜单上位列开源模型第一。

    推荐理由:Cosmos Reason 2 给出 2B/8B 开源权重的具体升级项与评测数据,可据此判断物理 AI 推理模型的当前水位。

9月4日周四
  1. Hugging Face Blog62

    Google 发布 EmbeddingGemma 多语言嵌入模型

    Google 发布 EmbeddingGemma,一个面向端侧场景的多语言嵌入模型,308M 参数、2K 上下文窗口,支持 100 多种语言。该模型基于 Gemma3 骨干并改为双向注意力,量化后内存占用低于 200 MB,作者称其在 500M 参数以下的纯文本多语言嵌入模型中 MTEB 排名最高。

    推荐理由:读者可以据此了解 308M 参数多语言嵌入模型在 MTEB 上的位置以及端侧 RAG 的落地路径。

6月28日周六
3月27日周四
7月23日周二
2月21日周三
  1. Hugging Face Blog70

    Hugging Face 发文欢迎 Google 开源 LLM 家族 Gemma

    Google 发布开源 LLM 家族 Gemma,包含 2B 和 7B 两个尺寸,各有基础版与指令微调版共 4 个模型,基于 Gemini 打造,上下文长度 8K tokens,可在消费级 GPU、TPU 甚至 CPU 与端侧设备上运行。

    推荐理由:Google 开源 Gemma 2B 与 7B 双尺寸模型,本文给出 8K 上下文、消费级硬件运行及与 Transformers 生态的完整集成路径。

8月1日周二
6月5日周一
  1. Hugging Face Blog72

    Falcon 模型已接入 Hugging Face 生态

    Hugging Face 发布博客介绍阿布扎比 TII 以 Apache 2.0 开源的 Falcon 系列模型,包括 Falcon-40B 和 Falcon-7B 及其 Instruct 版本,并给出在 HF 生态中运行与微调的具体做法。

    推荐理由:HF 官方给出 Falcon 40B/7B 从推理、量化到 QLoRA 微调的可复用命令与显存要求,便于在自己硬件上复现。

5月15日周一