ZGateway:Meta 为 ZippyDB 引入代理层,承载 40% 流量
Meta 推出 ZGateway,作为 ZippyDB 客户端与 ZServer 数据库之间的无状态代理层,目前承载约 40% 的 ZippyDB 流量,预计将增长至 60% 以上,每秒可处理超过 10 亿次操作,平均用例仅增加约 6% 计算开销。
Meta 推出 ZGateway,作为 ZippyDB 客户端与 ZServer 数据库之间的无状态代理层,目前承载约 40% 的 ZippyDB 流量,预计将增长至 60% 以上,每秒可处理超过 10 亿次操作,平均用例仅增加约 6% 计算开销。
Meta 工程团队构建了一个面向合规领域的 AI 智能体,作为领域"第二专家"沉淀机构知识。系统将知识架构与推理层分离,通过自改进闭环把专家反馈编译为经过回归测试的更新,无需重训练模型,并将 200+ 文件按 Position、Taxonomy、Routing、Gateway 等类型组织成严格分类体系。
Gergely Orosz 在 The Pulse 中讨论 Meta 是否真的因为 AI 决定把团队规模缩减 60%,并援引 Reuters 的深度报道称 Meta 管理层决定削减 60% 的团队规模,并于 1 月制定计划,执行这家社交媒体巨头史上最大规模裁员。
Meta 发布 MetaRoCE,一个专为 AI 工作负载在通用以太网上运行而从头设计的 RDMA 传输协议,并通过 OCP 开放规范、参考软件实现和合规测试套件。
Meta 发布 MTIA 300,这是其自研 MTIA 系列中首款面向排序和推荐模型训练优化的芯片,在芯片封装内集成两个网络 chiplet,各含 6 个定制 800 Gbps RDMA NIC,总 I/O 带宽达 1.2 TB/s,无需经过 PCIe 总线。
推荐理由:Meta 给出 MTIA 300 的内置网卡与卸载式集合通信设计,可对比传统 GPU 集群的通信瓶颈。
Nathan Lambert 认为,开源模型生态正越来越依赖 Nvidia 的投入,后者据报道已为此花费 260 亿美元。他把带完整训练配方、数据和代码的开源语言模型比作 Linux,而只放权重和推理代码的开源权重模型更像具体软件版本。若这套投入无法带来与 Anthropic、OpenAI API 相当的回报,开源模型或转向偏效率、可修改和专用化的长尾路线。
Meta 的裁员和强制转岗让未受影响的工程师也开始寻找新工作,形成一轮离职潮;Meta 如今用大额股权挽留这些人,但似乎并不奏效。作者还提到 Cursor 团队发布了一个通用 AI harness,体验类似“面向知识工作的 Codex”,他试用后用它自动化了大量日常工作,并认为更多 AI 厂商会跟进这一形态。
Meta 在 WhatsApp 上构建了可选的 Scam Alert 功能,用端侧机器学习模型在本地对来自非联系人的消息做诈骗概率分类,消息内容不会离开设备,也不会被自动上报。
推荐理由:原文给出 WhatsApp 端侧反诈告警的隐私架构与可验证设计,读者可了解端侧模型在加密通信场景的完整工程路径。
Meta 重返开源生态,发布 Muse Glimmer,一个 30B 开源权重稠密模型,上下文窗口超过 120K,面向本地 AI 智能体工作。该模型针对 NVIDIA 边缘、桌面和工作站 AI 平台优化,可在单 GPU 上达到 20K tokens/sec,让常驻智能体在本地处理数据并执行复杂任务。
推荐理由:Meta 回归开源发布 30B 本地智能体模型,并给出单 GPU 吞吐数字和运行平台范围。
Meta 发布多模态模型 Muse Glimmer,从 Muse 蒸馏到 30B 参数,采用 Apache 2.0 许可,面向本地智能体场景,可用于编码、文档分析和个人助理。
推荐理由:材料给出 30B 多模态模型在智能体与编码基准上的完整对比表和本地部署路径,可判断其端侧适用边界。
Meta 为广告排序提出多阶段序列模型架构,将重的离线用户建模与轻量的在线排序解耦,并引入稠密 tokenization 与 target-aware 注意力直接学习特征交互。
Hugging Face 发文指出,AI 的下一道真实约束是利用率而非智能,闲置 GPU 如同停飞客机——成本按日历小时计提,产出只按算力小时累积。
Interconnects 与 Interconnected 联合发表评论文章,警告华盛顿近期的 AI 监管动作可能进一步波及甚至禁止开源 AI,认为这将是严重错误。
Hugging Face 宣布 OpenEnv 转为由 Meta-PyTorch、Reflection、Unsloth、Modal、Prime Intellect、Nvidia、Mercor、Fleet AI、Microsoft 等组成的委员会协调,项目地址移至 huggingface/OpenEnv。
推荐理由:原文交代了 OpenEnv 转向委员会治理并明确自身为协议层而非奖励框架,读者可据此判断开放智能体 RL 的协作边界。
Google 宣布扩展内容透明度与验证工具,把 SynthID 的图片、视频、音频验证从 Gemini app 扩展到 Search,并将在未来几周进入 Chrome,Gemini 中该功能已被使用 5000 万次。
推荐理由:Google 把 SynthID 与 C2PA 验证铺到 Search、Gemini 和 Chrome,并开放云端检测 API,读者可了解内容溯源工具的实际入口与合作方。
Safetensors 已加入 PyTorch 基金会,成为 Linux 基金会下托管项目,与 DeepSpeed、Helion、Ray、vLLM 和 PyTorch 并列,商标、代码仓库与治理权归属 Linux 基金会而非任何单一公司。
OpenMed 用 250k 条 CDS 对比多种 Transformer 架构后,确定 CodonRoBERTa-large-v2 在密码子级语言建模上最优,困惑度 4.10、Spearman CAI 相关性 0.40,明显优于 ModernBERT。
Hugging Face 博客介绍 Meta 与 HF Mirror 合作的开源框架 OpenEnv,它用 gym 风格 API 和标准 MCP 工具调用接口把智能体接入真实工具与 API,而非模拟环境。
Hugging Face 的 Open ASR Leaderboard 新增多语言与长音频转写赛道,并发布了一份基于 60+ 个开源与闭源模型的趋势预印本。
Meta 与 Hugging Face 宣布合作推出 OpenEnv Hub,一个供开发者构建、分享和探索智能体环境(agentic environments)的开放社区中心,这些环境定义了智能体执行任务所需的工具、API、凭证和执行上下文,可用于训练和部署。
推荐理由:Meta 与 Hugging Face 联合推出的智能体环境共享中心,给出环境规范与训练部署一体的路径。
Meta 发布 GAIA 的后续基准 Gaia2 以及开源框架 Meta Agents Research Environments(ARE),用于运行、调试和评测智能体。
推荐理由:Meta 发布 Gaia2 基准与 ARE 环境源码,给出多模型在模糊、噪声与时间推理任务上的实测结果,便于对照自身智能体能力。
ExecuTorch 0.7 beta 将默认启用 Arm KleidiAI,为基于最新 Arm CPU 架构及大量旧款手机自动带来加速,开发者无需改代码即可通过 ExecuTorch 和 XNNPack 获得优化,实现更快的模型启动、更低延迟和更小内存占用。
NVIDIA AI-Q Blueprint 在 DeepResearch Bench 的"LLM with Search"榜单上以 40.52 分登顶,成为得分最高的完全开源许可方案。
Hugging Face 与 AMD 合作,为 MI300X 编写开源优化内核,提升 Llama 3.1 405B 在 FP8 下用 VLLM 的推理性能。三个自定义内核——融合残差连接、RMS norm 与 FP8 转换,融合 SwiGLU 激活与 FP8 转换,以及 Skinny GEMM——带来显著加速,测量基于输入 1、输出 128 的解码场景。
NVIDIA Llama Nemotron Nano VL 已上架 Hugging Face,这是一款 8B 视觉语言模型,面向智能文档处理与 OCR。
Featherless AI 已接入 HF Mirror Hub 的 Inference Providers,其无服务器推理可直接用于模型页面及 JS、Python 客户端 SDK。
Hugging Face 发布博客回顾过去一年视觉语言模型(VLM)的关键变化:Qwen 2.5 Omni 采用 Thinker-Talker 架构,MiniCPM-o 2.6 以 8B 参数覆盖视觉、语音和语言;Moonshot AI 的 Kimi-VL-A3B-Thinking 用 16B 总参数、2.8B 激活参数的 MoE 解码器实现长链式推理。
Meta 发布 Llama Guard 4 和两个 Llama Prompt Guard 2 安全模型。
HF Mirror 与 Cloudflare 达成合作,FastRTC 开发者用一个 HF Mirror token 即可接入 Cloudflare 覆盖 335 个以上地点的全球 TURN 网络。
Meta 发布 Llama 4 Maverick(约 400B 总参数、17B 激活)和 Llama 4 Scout(约 109B 总参数、17B 激活)两款原生多模态 MoE 模型,权重已上线 Hugging Face 的 meta-llama 组织,含 base 与 instruct 版本,需先接受 Llama 4 社区许可协议。
推荐理由:Meta 同日发布 Llama 4 Maverick 与 Scout 两款 MoE 多模态模型,并给出架构细节与 Hugging Face 侧集成方式。
Hugging Face 发布教程,教你用 React Native 和 llama.rn(llama.cpp 的绑定)构建本地运行 LLM 的移动应用,通过加载 GGUF 文件从 HF Mirror 下载模型,全程离线保护隐私。
Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k,用 DeepSeek R1 在 512 张 H100 本地生成 400k 道题的解答,过滤后保留 220k 道含正确推理轨迹的题目。
Hugging Face 发布 Diffusers 开源视频生成模型现状综述,梳理了 CogVideoX、Mochi-1、Hunyuan Video、Allegro、LTX Video 等模型,并对比 Meta MovieGen、OpenAI Sora、Google Veo 2 等闭源方案。
NVIDIA 推出 Python 工具包 KVPress,通过多种 press 压缩 KV Cache,缓解长上下文 LLM 的显存瓶颈。以 Llama 3-70B 的 bfloat16 精度、1M token 上下文为例,KV Cache 独占 327.6GB,占约 470GB 总显存需求的 70%。
Hugging Face 用 optimum-benchmark 在 Google Cloud 的 C4(第 5 代 Intel Xeon,Emerald Rapids,带 AMX)和 N2(第 3 代 Xeon,Ice Lake,仅 AVX-512)上对比测试文本嵌入与文本生成。
Capital Fund Management(CFM)用 Llama 3.1 辅助标注金融新闻命名实体识别数据,再微调 GLiNER 与 SpanMarker 小模型,F1 分别从 87.0% 和 47.0% 提升至 93.4% 和 90.1%。
一篇教程从零迭代推导 Transformer 位置编码,最终抵达 Llama 3.2 及多数现代 Transformer 采用的旋转位置编码(RoPE)。文章先给出理想位置编码应满足的 5 条性质,包括每个位置编码唯一且与序列长度无关、相邻位置间存在线性关系、可泛化到训练长度之外的序列、可由模型学习的确定性过程生成,以及能自然扩展到多维以支持图像等数据。
Hugging Face 博客介绍了源自 LayerSkip 论文的自推测解码(self-speculative decoding):用同一 LLM 的浅层生成草稿 token、深层负责验证,无需额外草稿模型即可同时提升速度并节省显存。
Llama 3.2 的 Keras 支持从发布第一天起就已可用,可直接从 HF 标准 safetensors checkpoint 加载,包括 3.2 checkpoint,需要转换时会即时完成。
Hugging Face 发布 BenCzechMark,称其为首个也是最全面的捷克语 LLM 评测套件,含 50 项任务、9 个类别,90% 任务为原生非翻译内容。配套排行榜已收录 25 个以上不同规模的开源模型,覆盖阅读理解、事实知识、语言建模、数学推理等维度,评测指标包括 Acc、EM、AUROC 和词级困惑度。