跳到正文

#论文/研究

今日 1 条
11月11日周二
  1. Google DeepMind48

    Google DeepMind 新研究:让 AI 视觉模型更像人一样看世界

    Google DeepMind 在 Nature 发表新论文,提出一种三步对齐方法,用认知科学的"odd-one-out"任务发现视觉模型常依赖背景色、纹理等表层特征,与人类判断系统性错位。团队以 SigLIP-SO400M 为基座训练适配器作为"教师",生成含百万张图像、数百万条类人判断的 AligNet 数据集,再微调其他模型,使其内部表征按人类概念层级重新组织,从而提升鲁棒性与泛化能力。

11月6日周四
11月1日周六
10月14日周二
9月22日周一
9月3日周三
9月1日周一
  1. Berkeley AI Research32

    word2vec 到底学到了什么?研究给出闭式学习理论

    研究证明 word2vec 在现实训练条件下可归结为无权重最小二乘矩阵分解,梯度流动态存在闭式解,最终学到的表示等价于对矩阵 M* 做 PCA。该矩阵仅由语料共现概率、unigram 概率等可测统计量和超参数决定,其顶部特征向量对应可解释概念:名人传记、政府市政、地理描述等。

8月14日周四
8月12日周二
8月1日周五
7月23日周三
7月18日周五
7月17日周四
7月4日周五
5月28日周三
4月16日周三
3月12日周三
  1. Hugging Face Blog68

    Open R1 发布 CodeForces-CoTs 数据集、IOI 基准与 OlympicCoder 代码模型

    Open R1 发布第三期更新,包括从 DeepSeek-R1 蒸馏的近 10 万条 C++ 与 Python 竞赛编程思维链数据集 CodeForces-CoTs、基于 2024 国际信息学奥林匹克(IOI)的新基准,以及微调的 7B 和 32B 模型 OlympicCoder。

    推荐理由:Open R1 公布了从 R1 蒸馏的代码推理数据集、IOI 基准与两个开源模型,可看蒸馏训练的具体做法与教训。

2月11日周二
2月4日周二
12月20日周五
12月9日周一
12月4日周三
  1. Hugging Face Blog26

    Hugging Face 推出 AraGen:基于 3C3H 的阿拉伯语 LLM 生成式基准与排行榜

    Hugging Face 发布 AraGen,一个面向阿拉伯语 LLM 的生成式任务基准与排行榜,采用基于 LLM-as-judge 的新评估指标 3C3H,从正确性、完整性、简洁性、有用性、诚实性和无害性六个维度打分。AraGen 同时覆盖开源与闭源模型,采用动态评估策略:数据集与评估代码先保密三个月进行盲测,期满后公开并替换为新私有基准,以缓解数据污染。

11月20日周三
  1. Hugging Face Blog44

    BAAI 推出 FlagEval Debate:首个多语言 LLM 辩论竞赛平台

    BAAI 推出 FlagEval Debate 平台,让大模型直接对辩,目前支持中文、英文、阿拉伯语和韩语四种语言。平台采用专家评审与用户投票的双重评估机制,并提供开发者自定义参数与实时调试能力,以解决静态评测和 Chatbot Arena 等现有平台缺乏区分度、模型各自生成不真正交互、投票存在风格偏好的问题。

10月29日周二
10月23日周三
  1. Hugging Face Blog28

    CinePile 2.0:用对抗式精炼打造更强的数据集

    Hugging Face 发布 CinePile 2.0 长视频问答数据集,并开源一种名为对抗式精炼的新方法。初版 CinePile 于 2024 年 5 月推出,含约 30 万训练样本和 5000 测试样本,人类在该基准上比最强商业视觉模型高出 25%、比开源模型高出 65%;2.0 版本由 HF Mirror 参与,针对退化问题和视觉依赖等缺陷做改进,该方法可直接用于强化现有数据集。

10月1日周二
  1. Hugging Face Blog21

    Hugging Face 发布 BenCzechMark:首个捷克语 LLM 综合评测基准

    Hugging Face 发布 BenCzechMark,称其为首个也是最全面的捷克语 LLM 评测套件,含 50 项任务、9 个类别,90% 任务为原生非翻译内容。配套排行榜已收录 25 个以上不同规模的开源模型,覆盖阅读理解、事实知识、语言建模、数学推理等维度,评测指标包括 Acc、EM、AUROC 和词级困惑度。

9月23日周一
  1. Hugging Face Blog16

    深入探索 HF Mirror Daily Papers 页面的隐藏功能

    HF Mirror 的 Daily Papers 页面已收录 3,700 多篇论文、订阅数超 12k,作者可一键认领论文并关联到自己的账号。该页面还支持论文提交、@作者实时讨论、@librarian-bot 推荐相似论文、多语言评论与自动翻译,并将模型、数据集、demo 等资源集中链接在论文页右侧。用户可通过页面顶部 Subscribe 按钮订阅每日更新(周末除外)。

8月14日周三
7月25日周四
7月18日周四
5月24日周五
4月22日周一
4月16日周二
3月20日周三
  1. Hugging Face Blog62

    Cosmopedia:如何为 LLM 预训练构建大规模合成数据

    Hugging Face 发布 Cosmopedia,一个由 Mixtral-8x7B-Instruct-v0.1 生成的合成数据集,包含超 3000 万个文件和 250 亿 token,目标是复现 Phi-1.5 的训练数据。

    推荐理由:Hugging Face 公开了复现 Phi 合成预训练数据的完整流程、数据集与 1B 模型,读者可据此理解大规模合成数据的提示词设计与工程细节。

3月15日周五
3月5日周二
  1. Hugging Face Blog30

    UCLA 推出 ConTextual:评估多模态模型在文本丰富场景中的图文联合推理能力

    UCLA 研究者发布 ConTextual,一个含 506 条指令的上下文敏感文本丰富视觉推理数据集,覆盖时间阅读、购物、导航、信息图等 8 类真实场景,并附排行榜与验证集。首轮评测 13 个模型,GPT-4V 表现最佳,但在时间相关任务上不及人类;开源模型仅在抽象与自然场景达到可接受水平。

1月29日周一
12月6日周三
  1. Hugging Face Blog35

    Hugging Face 与 Intel Labs 推出 SetFitABSA:用 SetFit 实现少样本方面级情感分析

    Intel Labs 与 Hugging Face 推出 SetFitABSA,一个基于 SetFit 库的少样本方面级情感分析(ABSA)框架,无需提示词即可训练领域专用模型,在少样本场景下甚至优于 Llama2 和 T5 等生成模型。它通过 spaCy 抽取名词类方面候选,再用两个 SetFit 模型分别完成方面/非方面分类与情感极性判定,训练只需少量标注样本。