微软研究:清空对话历史可让 AI 研究智能体找到更优解
微软研究院一项研究观察了反复提出、评估并改进方案的 Autoresearch 智能体,发现同一任务下八次独立运行的最终得分在 68.3 到 100.0 之间分化,且加大算力也无法缩小差距,原因在于对话上下文累积把搜索限制在作者称为 idea basins 的相似解区域内。
微软研究院一项研究观察了反复提出、评估并改进方案的 Autoresearch 智能体,发现同一任务下八次独立运行的最终得分在 68.3 到 100.0 之间分化,且加大算力也无法缩小差距,原因在于对话上下文累积把搜索限制在作者称为 idea basins 的相似解区域内。
哈佛大学研究者 Fiona Chen 和 James Stratton 分析了 Jellyfish 的工程团队数据分析,覆盖 2021 年至 2026 年 3 月间 700 多家软件开发公司的 70 多万名员工、3 亿条工作事件(如提交和拉取请求)。
微软发布开源离线基准 ReviewBench,用于评估 AI 代码审查智能体的表现,基于 GitHub 上 103.9M 个真实 pull request 的分布构建。
研究团队提出 Image-to-Code 方法,让编码智能体看单张照片写 Blender 程序并迭代修正,同时发布包含 208 张图像、443 个资产的 LEGO-Bench 评测。
IBM 研究团队提出 ALTK-Evolve,与 ACE 一样让智能体从自身轨迹中学习经验并在推理时注入,不做权重更新也不需要人工标注,区别在于经验的交付方式。
MIT 等机构研究人员开发出 GIFT(Geometric Inference Feedback Tuning)系统,教视觉语言模型自动把 2D 设计转换为可直接执行的 CAD 程序,精度更高且只用约 20% 的算力。
Hugging Face 发布开源基准 ScarfBench,用于评测 AI 智能体在企业 Java 跨框架迁移中的表现,覆盖 Spring、Jakarta EE、Quarkus 三大生态。
Hugging Face 推出 3LM(علم),首个专门评估阿拉伯语 LLM 在 STEM 与代码生成能力的多组件基准,包含 865 道真实 STEM 选择题、1744 道合成高难度题,以及译成阿拉伯语的 HumanEval+ 和 MBPP+ 代码任务。
Open R1 发布第三期更新,包括从 DeepSeek-R1 蒸馏的近 10 万条 C++ 与 Python 竞赛编程思维链数据集 CodeForces-CoTs、基于 2024 国际信息学奥林匹克(IOI)的新基准,以及微调的 7B 和 32B 模型 OlympicCoder。
推荐理由:Open R1 公布了从 R1 蒸馏的代码推理数据集、IOI 基准与两个开源模型,可看蒸馏训练的具体做法与教训。
Hugging Face 发布 BigCodeBench,包含 1,140 个函数级任务,需组合 139 个库中的多次函数调用,用于评测 LLM 在无污染的真实编程任务上的能力。每个任务平均配 5.6 个测试用例,分支覆盖率平均 99%,并另设更难、面向指令微调模型的 BigCodeBench-Instruct 变体。
Meta 推出 CyberSecEval 2,用于评估 LLM 生成不安全代码、抵抗提示词注入、配合网络攻击、滥用代码解释器以及自动化攻击性网络安全能力。相比 2023 年 12 月的首版,LLM 配合网络攻击请求的平均合规率从 52% 降至 28%。所有代码已开源,可接入排行榜。
Hugging Face 发布 StarCoder2-15B-Instruct-v0.1,这是首个用完全可许可且透明的管线自对齐训练的代码大语言模型。它用 StarCoder2-15B 自行生成数千条指令-响应对再微调自身,不使用人工标注或大型闭源模型的蒸馏数据,在 HumanEval 上取得 72.6 分,超过 CodeLlama-70B-Instruct 的 72.0 分。
推荐理由:原文公开了完全透明的自对齐数据管线,读者可据此了解不依赖 GPT-4 蒸馏也能训练代码指令模型。
Hugging Face 上线 LiveCodeBench 排行榜,基于 UC Berkeley、MIT 和 Cornell 研究者开发的基准,通过按发布时间标注 LeetCode、AtCoder、CodeForces 题目,支持按时间窗口滚动评估以检测和防止数据污染。