Hugging Face 回顾"DeepSeek 时刻"一周年:中国开源 AI 生态崛起
DeepSeek 发布 R-1 模型一年后,其开源权重成为 Hugging Face 史上获赞最多的模型。R1 以 MIT 许可开放推理路径与后训练方法,降低了技术、采用与心理三重门槛。百度 2024 年在 Hugging Face 零发布,2025 年增至 100 余个,字节跳动与腾讯发布量增长八到九倍。
DeepSeek 发布 R-1 模型一年后,其开源权重成为 Hugging Face 史上获赞最多的模型。R1 以 MIT 许可开放推理路径与后训练方法,降低了技术、采用与心理三重门槛。百度 2024 年在 Hugging Face 零发布,2025 年增至 100 余个,字节跳动与腾讯发布量增长八到九倍。
2025 年 LLM 发展由推理模型主导,DeepSeek 在 1 月发布 R1 论文,用强化学习配合可验证奖励(RLVR)与 GRPO 算法训练出推理行为,并以开放权重达到当时最佳专有模型水平。R1 在 DeepSeek V3 之上再训练约花费 29.4 万美元,V3 的 671B 参数模型训练成本估计接近 500 万美元而非 5 亿。此后各家开放权重与专有模型纷纷跟进推出推理版本。
Google DeepMind 与 Google Research 的 2025 年度回顾显示,其在推理、多模态、模型效率与生成能力上取得突破,3 月发布 Gemini 2.5,11 月推出 Gemini 3、12 月推出 Gemini 3 Flash。
AlphaFold 2 在 2020 年 CASP 14 上仅凭氨基酸序列高精度预测蛋白质结构,解决了困扰生物学界 50 年的难题,并于 2024 年获诺贝尔化学奖。
Hugging Face 发文分析全球 AI 算力格局的迁移:中国国产芯片已开始承载 Qwen、DeepSeek、GLM、Kimi 等开源权重模型的推理,部分模型开始用国产芯片训练。文章指出,美国出口管制与华为 Ascend、寒武纪等国产芯片产能的加速高度相关,芯片受限也倒逼出 MLA、GRPO 等算力效率创新。
Hugging Face 的 Open-R1 项目启动一周后发布首份更新,称已能复现 DeepSeek 在 MATH-500 上报告的评测分数,并公开了评测排行榜。
推荐理由:Open-R1 团队复现 DeepSeek-R1 评测并公开数据生成与 GRPO 训练的工程细节,可供复现者参考。
Hugging Face 推出首期 AI 艺术工具通讯《The AI tools for Art Newsletter》,回顾 2024 年创意 AI 的关键进展,并预告 2025 年新动向及将启动月度汇总。
机器学习过去十年的进展表明,精心设计的数学化架构只带来边际提升,而算力驱动、工程优先的规模化路线却催生了现有理论无法预测的新能力。文章认为数学的角色正在演变:从提供性能理论保证,转向像物理学那样对训练与性能中的经验现象做事后解释,并更多用于架构与任务结构、数据对称性的高层匹配。规模化还让拓扑、代数、几何等"纯"数学领域加入机器学习,以应对深度学习的复杂性问题。
2024 年中国 AI 公司加速出海,全球 1500 家活跃 AI 公司中有 751 家位于中国,其中 103 家已拓展海外市场。华为、腾讯、阿里聚焦云计算与 AI 基础设施,主攻东南亚和中东;字节跳动七个月内推出 11 款海外应用,CapCut 月活超 3 亿。
The Gradient 文章指出,MMLU、HumanEval、MATH 等基准日趋饱和,但以非交互方式衡量的分数未必转化为用户体验。作者主张用"有目的的对话"重构人机交互,即以目标或意图为中心的多轮交流,并认为这对 SWE-bench 式的代码生成同样必要。
The Gradient 刊文主张,应以个人福祉与社会健康为根基来定义"有益 AI",并呼吁构建关于能力强大 AI 的、可行且技术可信的积极社会愿景。作者提出三点结论:无法确定唯一定义人类福祉但存在支持性关系、有意义工作等具体共识因素;AI 将像社交媒体一样冲击社会基础设施;基础模型的未来部署是关键,可探索新算法、基于福祉的模型评估与训练数据。
Hugging Face 发文探讨数据质量为何是 AI 开发的关键,提出高质量数据应具备相关性、完整性、时效性与偏见缓解等特征。文章以 Reddit 与 Google 的 RAG 搜索合作失准(如推荐"给披萨加胶水")为例,说明低质数据会拖累模型表现。作者主张将数据质量贯穿 AI 全生命周期,通过去重、内容过滤与人工反馈等策管流程提升模型稳健性、效率与公平性。
大语言模型的下一 token 预测能力能否迁移到价格与交易序列预测,成为量化交易的新方向。Hudson River Trading 在 2023 年 NeurIPS 上估算,3000 只可交易股票、每日 10 个数据点、每年 252 个交易日可产生 1770 亿市场数据 token,与 GPT-3 的 5000 亿训练 token 量级相近。
AI 模型会反映甚至放大现实世界的性别偏见。研究显示,词嵌入中存在"男人是程序员、女人是家庭主妇"等性别刻板类比,2016 年 Bolukbasi 等人提出基于性别中性词的去偏方法;2018 年 Gender Shades 发现三款商用性别分类器对深肤色女性错误率最高达 34.7%,而浅肤色男性仅 0.8%,Microsoft 和 IBM 随后修正了训练数据偏差。
文章探讨 LLM 能否成为自动驾驶的"意外答案",类比 1928 年青霉素的偶然发现。文中先回顾 2010 年代模块化自动驾驶方案(感知、定位、规划、控制四模块),再到端到端学习,并解释 tokenization、Transformer 与 next-word prediction 等 LLM 基础,最后讨论把图像和 LiDAR 点云等传感器数据接入模型的方法。
Hugging Face 发布 2023 年开源 LLM 回顾,指出公众对开源与闭源之争的关注度大幅上升,开源模型有利于研究可复现、社区参与和 checkpoint 复用。文章梳理了预训练大语言模型的构成要素(架构、训练数据集、tokenizer、超参数),并回顾 2022 年的代表性开源模型,包括 176B 参数、覆盖 46 种人类语言的 BLOOM 和 Meta 的 175B 参数 OPT。
作者以顾问身份参与大型水电大坝的鱼类计数项目,这类计数是满足 FERC 监管要求、证明大坝未危害濒危鲑鱼种群的核心数据集。计数依赖受过训练的人员目视识别鱼种、健康状况及野生或孵化场来源,但存在转录错误、分类争议,且各运营方在采集频率(小时/日/月)和季节(特定洄游期)上标准不一。
The Gradient 刊文《The Artificiality of Alignment》指出,当前所谓"对齐"研究更像在解决"造一个有人愿意付费的产品"这一老问题,而非人类灭绝级别的宏大挑战。文章批评公众讨论把猜测性未来风险与当下真实危害混为一谈,并称 OpenAI 将构建超级智能列为主要目标之一,而收入生成始终是其治理、产品与技术决策的底层目标。
文本到图像(TTI)生成模型正大量上传至 Hugging Face Hub,其偏见来源多样。Hugging Face 梳理了训练数据(如 LAION-5B、MS-COCO、VQA v2.0)、预训练数据过滤、推理(CLIP 的年龄、性别、种族偏见)、模型潜在空间及事后过滤等偏见来源,并列举了 Stable Bias 等检测工具与红队评估方法。
HF Mirror 回顾其计算机视觉生态:已支持图像分类、图像分割、零样本目标检测、视频分类、深度估计等 8 个核心视觉任务,Hub 上相关模型超过 3000 个、数据集超过 100 个,且每个任务至少有 10 个模型 checkpoint 可供使用。
Hugging Face 伦理与社会团队发布通讯第 2 期,讨论机器学习偏见的成因与应对。文章指出偏见是复杂的社会技术问题,单靠技术干预难以解决,需要在整个 ML 开发流程中保持警惕。团队还整理了数据集与模型等工具,供社区在开发各阶段分析并缓解偏见。
Hugging Face 发布《Director of Machine Learning Insights》第四期,邀请 Javier Mansilla、Shaun Gittens、Samuel Franklin 和 Evan Castle 四位机器学习总监谈 ML 对各自行业的影响。
Hugging Face 发布《Director of Machine Learning Insights》第 3 期金融版,汇集来自 U.S. Bank、加拿大皇家银行(RBC)、Moody's Analytics 及前 Bloomberg AI 研究科学家的金融 ML 负责人观点。
Hugging Face 多模态学习团队发布了一份项目伦理章程,将伦理原则正式纳入机器学习研究生命周期的起点,并明确了内容政策与项目价值观。章程列出了需要防范的用例,包括生成虚假信息、生成个人可识别信息以及在医疗、法律、金融、移民等高风险领域的不谨慎使用。团队同时提出透明、开放可复现、公平、自我批判和尊重他人工作等价值观,并指出这些价值观之间有时会相互冲突,需逐案权衡风险与收益。
Hugging Face 博客发布 Director of Machine Learning Insights 系列第二期 SaaS 特辑,邀请 Salesforce 的 Omar Rahman、Amplitude 的曹晓丹(Danica Xiao)等多位机器学习总监分享观点。
微软与 NVIDIA 发布 Megatron-Turing NLG 530B,被称为全球最大最强的生成式语言模型,训练需数百台 DGX A100 服务器、成本近 1 亿美元。作者质疑这类超大模型的价值,认为基准提升有限却带来高昂成本、复杂度与碳足迹,并建议改用预训练模型、更小模型(如 DistilBERT 保留 97% 语言理解、体积小 40%、速度快 60%)和微调来落地机器学习。
Hugging Face 发文称,机器学习正走向「软件吞噬机器学习」:DevOps 的版本管理、测试、自动化与部署实践应被数据科学团队直接采纳,MLOps 让模型更快进入生产环境。