Qwen3.8 27B 纯英文单词加法基准测试:关推理准确率 23.57%
针对本地 Qwen3.8-27B-Q4_K_M.gguf 的基准测试显示,在用英文单词输出结果的 5,070 个关闭推理用例中,数值准确率为 23.57%,格式合规率 96.17%。准确率随操作数位数下降,一至三位数从 97.04% 跌至十至十三位数的 6.44%;开启 medium reasoning 的 169 例对比中答对 167 例。
针对本地 Qwen3.8-27B-Q4_K_M.gguf 的基准测试显示,在用英文单词输出结果的 5,070 个关闭推理用例中,数值准确率为 23.57%,格式合规率 96.17%。准确率随操作数位数下降,一至三位数从 97.04% 跌至十至十三位数的 6.44%;开启 medium reasoning 的 169 例对比中答对 167 例。
微软发布开源离线基准 ReviewBench,用于评估 AI 代码审查智能体的表现,基于 GitHub 上 103.9M 个真实 pull request 的分布构建。
微软在 Nature 发表逆合成模型 RetroChimera,并开源其实现与权重。该模型将基于 Transformer 的 R-SMILES 2 与基于图神经网络、使用反应模板的 NeuralLoc 结合,通过学习式集成对两者预测重新排序,性能在常见与稀有反应类别上均超越任一子模型。
Hugging Face 发布 BenchMIRT,一种在单条题目层面审计 LLM 基准的方法,基于多维 IRT 从 100 个 LLM、16 个基准、超 34K 道题的评测结果中自动分离出安全与通用推理两个维度。
Multiverse Computing 发布论文《Efficient Knowledge Distillation for LLMs: Offline Top-K Logits and a Fused Chunked KL Loss》。
MIT 团队推出 FloatForm,一个由 21 厘米见方的小型方形机器船组成的集群系统,可自主拼装成刚性结构、拆解并重组为新构型。实验中海量 8 艘机器船从随机位置聚合、锁定、按指令分离并整体航行,单次耗时 4-8 分钟,仿真验证可平滑扩展至 64 艘;其去中心化方法让规划复杂度只取决于局部邻居而非集群总规模。
Hugging Face 发布开源基准 ScarfBench,用于评测 AI 智能体在企业 Java 跨框架迁移中的表现,覆盖 Spring、Jakarta EE、Quarkus 三大生态。
Hugging Face 团队提出 DiScoFormer(Density and Score Transformer),单次前向传播即可同时估计分布的密度与 score,无需针对新分布重新训练。
Hugging Face 发布 QIMMA,一个先对基准本身做质量验证、再评测模型的阿拉伯语 LLM 排行榜,整合 14 个来源基准的 109 个子集、超 52,000 条样本,覆盖 7 个领域,其中 99% 为原生阿拉伯语内容。
Berkeley AI Research 提出 SPEX 和 ProxySPEX,用于在大规模 LLM 中识别驱动模型输出的关键特征、数据与内部组件交互。SPEX 利用交互的稀疏性和低阶性,将搜索问题转化为稀疏恢复问题,可扩展到比既有方法大几个数量级的规模;ProxySPEX 进一步利用层次结构,以约少 10 倍的消融次数达到与 SPEX 相当的性能。
Intel AI Software Group 发布 DeepMath,一个基于 Qwen3-4B Thinking、用 smolagents 构建并用 GRPO 微调的数学推理 Agent,模型输出短 Python 片段在沙箱中执行后回填推理。
ServiceNow 将 15B 推理模型改造成 Mamba 混合架构,旗舰版 Apriel-H1-15b-Thinker-SFT 在几乎不损失推理质量的前提下实现 2.1 倍吞吐,总训练量 76.8B token。
Google 发布森林砍伐风险预测基准数据集,基于纯卫星输入和 vision transformer 架构,可在大范围区域内实现 30 米分辨率预测。
NVIDIA 发布 600 万多语言推理数据集 Nemotron Post-Training Dataset V2,将原有英文推理数据翻译为法语、西班牙语、德语、意大利语和日语五种语言,并保留原始英文推理链。
AI-MO 与 Kimi 开源 kimina-prover-rl 训练流程,基于 DeepSeek-R1 式"先推理后生成"范式,兼容 Verl 框架,并随附 1.7B 与 0.6B 两个模型。
Hugging Face 开源基准 TimeScope,通过在 1 分钟至 8 小时的长视频中插入 5-10 秒"针"片段,评测视频大模型的定位检索、信息综合与细粒度时序感知三项能力。测试显示,即便 Gemini 2.5-Pro 等领先模型在真正的长视频时序理解上仍显吃力,且视频越长性能下滑越明显。
Open R1 发布第三期更新,包括从 DeepSeek-R1 蒸馏的近 10 万条 C++ 与 Python 竞赛编程思维链数据集 CodeForces-CoTs、基于 2024 国际信息学奥林匹克(IOI)的新基准,以及微调的 7B 和 32B 模型 OlympicCoder。
推荐理由:Open R1 公布了从 R1 蒸馏的代码推理数据集、IOI 基准与两个开源模型,可看蒸馏训练的具体做法与教训。
Adyen 和 Hugging Face 联合推出 DABstep,一个包含 450+ 真实数据分析任务的多步推理数据智能体基准,最强推理型智能体准确率仅 16%。
Hugging Face 发布通用智能体项目 Jack of All Trades(JAT),基于 GPT-Neo 的 Transformer 架构,用单一网络在 Atari、BabyAI、Meta-World、MuJoCo 四个领域的 157 项任务上达到专家平均性能的 65.8%。
Hugging Face 上线 LiveCodeBench 排行榜,基于 UC Berkeley、MIT 和 Cornell 研究者开发的基准,通过按发布时间标注 LeetCode、AtCoder、CodeForces 题目,支持按时间窗口滚动评估以检测和防止数据污染。
Hugging Face 开源 WebSight 数据集,用于训练 AI 模型将网页截图转换为 HTML 代码。该数据集已从 2024 年 1 月的 v0.1 版 823,000 对样本迭代至 v0.2 版,采用真实图片截图并换用 Tailwind CSS,规模扩展至 200 万对样本。
Haize Labs 在 Hugging Face 团队支持下发布 Red Teaming Resistance Benchmark,用人类越狱提示词测试前沿模型的安全鲁棒性,得分是判定为 Safe 的提示词百分比。
Hugging Face 推出 NPHardEval 排行榜,基于密歇根大学和罗格斯大学研究者开发的 NPHardEval 基准,通过计算复杂度类量化评估 LLM 推理能力。
Hugging Face 发布 LLM Safety Leaderboard,基于其排行榜模板,聚焦大语言模型的安全评测。该榜单依托 DecodingTrust 平台,覆盖毒性、刻板印象偏见、对抗鲁棒性、隐私、机器伦理与公平性等八项可信度维度,并为每个维度提供红队测试算法。
Intel Labs 与 Hugging Face 推出 SetFitABSA,一个基于 SetFit 库的少样本方面级情感分析(ABSA)框架,无需提示词即可训练领域专用模型,在少样本场景下甚至优于 Llama2 和 T5 等生成模型。它通过 spaCy 抽取名词类方面候选,再用两个 SetFit 模型分别完成方面/非方面分类与情感极性判定,训练只需少量标注样本。
VQ-Diffusion 是中国科学技术大学与微软提出的条件隐空间扩散模型,其加噪与去噪过程在由离散向量构成的量化隐空间上进行,有别于主流连续扩散模型。模型采用冻结的 VQ-VAE(VQGAN 变体)将图像编码为离散 token,并用编码器-解码器 Transformer 一次性预测去噪后隐变量的分布。
微软提出 TAPEX(Table Pre-training via Execution),通过系统采样可执行 SQL 查询及其执行结果合成预训练语料,让模型学习充当神经 SQL 执行器(以 BART 为例),从而绕开对真实表格数据的依赖。
Hugging Face 在社区周活动中用 10 亿句对训练出 SOTA 句嵌入模型,训练跑在 7 块 TPU v3-8 上。方法采用批内负样本的对比学习目标,配合大批次、难负样本和跨数据集批次提升质量。模型与数据集已在模型卡中开源。