Meta 发布新一代生成式广告模型 GEM:架构 Kunlun 与训练效率翻倍
Meta 介绍了新一代生成式广告模型 GEM,将此前按 Facebook、Instagram、Reels 等场景分别优化的做法改为单一中心基础模型,统一预测跨场景点击与转化。
Meta 介绍了新一代生成式广告模型 GEM,将此前按 Facebook、Instagram、Reels 等场景分别优化的做法改为单一中心基础模型,统一预测跨场景点击与转化。
杨立昆提出分层联合嵌入预测架构 H-JEPA,将多个 JEPA 逐层堆叠,各层在不同时间跨度上预测状态。Visual AntMaze 任务中,单层 LeWM 成功率仅 18%,三层 H-JEPA 达 73%。该架构不用奖励、不用重建,主张向上增加抽象层级而非增加步数,与当前 Agent 和 RSI 路线相反。
PhAI Labs 联合斯坦福、牛津、普林斯顿的研究者提出 JEPA-Anything,把 LeCun 提出的 JEPA 架构拆成四个正交预测模块,用同一套原理处理物理、机器人、天气、单细胞和临床等七个领域。
Aleph Alpha 用自研基准测试了阿里(Qwen)、DeepSeek 和月之暗面(Kimi)的模型,覆盖 Tiananmen、Taiwan、Xinjiang 等 967 个敏感话题,其评分系统判定仅 17% 到 41% 的回答算平衡,其余复述官方立场、回避或拒答。
OpenMed 用 250k 条 CDS 对比多种 Transformer 架构后,确定 CodonRoBERTa-large-v2 在密码子级语言建模上最优,困惑度 4.10、Spearman CAI 相关性 0.40,明显优于 ModernBERT。
Hugging Face 的 Open ASR Leaderboard 新增多语言与长音频转写赛道,并发布了一份基于 60+ 个开源与闭源模型的趋势预印本。
Meta 发布 GAIA 的后续基准 Gaia2 以及开源框架 Meta Agents Research Environments(ARE),用于运行、调试和评测智能体。
推荐理由:Meta 发布 Gaia2 基准与 ARE 环境源码,给出多模型在模糊、噪声与时间推理任务上的实测结果,便于对照自身智能体能力。
Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k,用 DeepSeek R1 在 512 张 H100 本地生成 400k 道题的解答,过滤后保留 220k 道含正确推理轨迹的题目。
Hugging Face 发布 BenCzechMark,称其为首个也是最全面的捷克语 LLM 评测套件,含 50 项任务、9 个类别,90% 任务为原生非翻译内容。配套排行榜已收录 25 个以上不同规模的开源模型,覆盖阅读理解、事实知识、语言建模、数学推理等维度,评测指标包括 Acc、EM、AUROC 和词级困惑度。
Meta 推出 CyberSecEval 2,用于评估 LLM 生成不安全代码、抵抗提示词注入、配合网络攻击、滥用代码解释器以及自动化攻击性网络安全能力。相比 2023 年 12 月的首版,LLM 配合网络攻击请求的平均合规率从 52% 降至 28%。所有代码已开源,可接入排行榜。
Hugging Face 用 327 条提示词(含 25 条编程类)对 Koala 13b、Vicuna 13b、OpenAssistant 12b、Dolly 12b 四个开源指令模型做盲测,由 Scale AI 标注者按 1-8 Likert 量表打分并生成 Elo 排名,Vicuna-13B 以 1140 居首,Dolly-12B 以 802 垫底。