用 Amazon Bedrock AgentCore 生成演示文稿
AWS 发布方案,用 Amazon Bedrock AgentCore 搭建 AI 智能体自动生成 PowerPoint 演示文稿,内部测试中不到 90 秒即可完成。
AWS 发布方案,用 Amazon Bedrock AgentCore 搭建 AI 智能体自动生成 PowerPoint 演示文稿,内部测试中不到 90 秒即可完成。
大智慧与阿里云联手启动 AI 原生 APP 共创项目,2024 年 10 月正式启动,目标是将传统行情软件升级为能理解用户意图、辅助投资决策的智能产品。双方围绕数据治理、Agent 工程框架、记忆体系与评测体系四大要素重构,搭载阿里云 FinXScope 2.0 金融 Agent 平台。通过缩小模型尺寸并将意图分类训入 4B 小模型,意图识别耗时从约 10 秒压缩到毫秒级别。
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了 Discovery AI,将自然语言问题转换为 Sonar 查询,支持 900+ 云模型和 18 种操作符,可处理每天数千次查询、15 秒响应。
亚信科技依托阿里云全链路 AI 研发能力引入 Qoder,在近万名研发人员中落地全员 AI Coding,核心 BSS 系统 AI 覆盖率达 80% 左右,千人运营团队月活跃率稳定在 90% 以上,人均代码产出提升约 14.6%,端到端全流程平均提效 8.6%。其选型看重基模持续投入、配套环境与安全底座,并将编码规范符合率从 60% 提升到 95%。
Google DeepMind 发布 EmbeddingGemma 2,把文本、图像、音频、视频统一映射到同一嵌入空间,基于 Gemma 4 架构,参数 740M,采用 Apache 2.0 许可,面向端侧推理。
推荐理由:官方给出参数量、模块化设计与存储压缩细节,读者可据此判断端侧多模态检索的落地成本。
Amazon Quick 和 Amazon Bedrock Knowledge Bases 采用实时 ACL 校验,在查询时直接向 Google Drive、SharePoint 等权威源验证权限,叠加在原有的预检索过滤之上。
Qlik 用 Amazon Bedrock 打造 Qlik Answers,让员工用自然语言提问并获得带来源的可信回答,检索层由 Amazon OpenSearch Service 支撑,模型访问层经自建 LLM gateway 接入 Bedrock 的对话、流式、嵌入与重排能力,并用 Bedrock Guardrails 做内容过滤与接地校验。
Google 发布开源多模态嵌入模型 EmbeddingGemma 2,可将文本、图像、视频、音频和代码转换为数值向量,参数量 740M。Google 称其在多模态嵌入基准上超越参数量最高达其两倍的竞品,在 Massive Text Embedding Benchmark(Code)上得分 78.68,比前代 68.76 提升近 10 分。
AWS 官方博客介绍如何在 Amazon Bedrock AgentCore 运行时的 OpenClaw 开源智能体系统上构建具备长期记忆的上下文感知助手,以园艺助手 Sprout 为例,全部组件部署在一个 CloudFormation 模板中。
亚马逊展示如何为航司应用加入语音旅行管家:基于 Amazon Bedrock AgentCore 托管智能体、Nova 2.5 Sonic 实现实时语音、Bedrock Knowledge Bases 支撑政策问答,通过 MCP 与 AgentCore Gateway 打通后端,可查行程、改座位、更新餐食偏好并转接人工客服。
Amazon Bedrock Managed Knowledge Bases 新增智能体检索,通过 AgenticRetrieveStream API 将复杂问题拆成子查询、循环判断证据是否充分并按需重搜,与单次混合搜索的 Retrieve API 形成两条路径。
MIT Technology Review 基于 300 位数据与 AI 高管的调研显示,企业平均仅约 34% 的 agentic AI 项目进入生产环境,遗留数据系统、安全隐私顾虑以及知识与上下文缺失是主要失败点。
在 Amazon SageMaker AI 上用多轮强化学习(MTRL)微调 Qwen3.6-27B 搜索智能体,训练数据来自 FRAMES、BRIGHT 和含 50 万+合成企业文档的 Enterprise RAG 数据集。
AWS 提出 Adjudicated Query 模式,让业务用户在 Amazon Quick 聊天界面提问,判定由确定性规则引擎完成,并生成"完整性回执"确保合规加违规加模糊加不可读等于已扫描。
Amazon Bedrock Knowledge Bases 可通过 AgenticRetrieveStream API 用自然语言查询理赔文档并返回带引用的答案。
针对 RAG 在数百份合同上做汇总统计会算错的问题,AWS 给出了一套合同智能平台架构:AI 提取智能体(Claude Sonnet 系列)从 PDF 中抽取 8 个关键字段并附置信度。
GitHub Podcast 最新一期拆解了五个 AI 热门观点,结论是:AI 生成的代码仍然要读、要审,但审查力度应随风险变化;Skills 与 MCP 解决的是不同问题,MCP 提供连接工具和数据的标准接口,Skills 更像打包好的 Markdown 经验,两者可组合使用。RAG 也没有死,它为模型提供训练数据之外的信息,可以减少 token 浪费、加快速度并降低不完整回答的概率。
Meta 工程团队构建了一个面向合规领域的 AI 智能体,作为领域"第二专家"沉淀机构知识。系统将知识架构与推理层分离,通过自改进闭环把专家反馈编译为经过回归测试的更新,无需重训练模型,并将 200+ 文件按 Position、Taxonomy、Routing、Gateway 等类型组织成严格分类体系。
Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用于 ColBERT 式后期交互检索,并提供完整训练方案。作者用单张 RTX 3090 训练 14.5 小时得到 mLateOn-medical,在平均 941 token 的医学检索评测上超过其能找到的所有通用检索模型,截断文档最多会损失 0.24 NDCG@10。
Papers with Code 的混合搜索系统同时使用 PostgreSQL 全文检索、pgvector 稠密向量和 RRF 融合排序,目前维护超过 11 万篇来自 arXiv 与 Daily Papers 的论文嵌入向量。
Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用于 ColBERT 式晚交互检索,PyLate、Stanford-NLP ColBERT 以及 colpali-engine 视觉文档检索检查点均可通过同一套 API 加载。
推荐理由:原文给出多种 ColBERT 类检查点的统一加载方式,以及索引体积与检索收益之间的实测取舍,可据此决定是否替换现有稠密检索。
巴基斯坦一项大规模田野试验显示,结合 GPT-4 与近 13 万份司法意见和法规知识库的定制工具 JudgeGPT,配合 6 次 90 分钟培训,使已培训法官所在地区结案中位数提升 6.3%,上诉率略有下降。
JetBrains 发布 Mellum2,一个从零训练、总参数 12B、每 token 仅激活 2.5B 的 MoE 模型,面向自然语言与代码任务,采用 Apache 2.0 许可证开源。官方称其推理速度比同规模模型快 2 倍以上,可用于路由、RAG、摘要、子智能体及私有化部署。模型已上线 Hugging Face,完整技术报告同步发布。
作者发布六款 Sentence Transformers CrossEncoder 重排模型(17m、32m、68m、150m、400m、1b),基于 Ettin ModernBERT 编码器,采用对 mixedbread-ai/mxbai-rerank-large-v2 打分的逐点 MSE 知识蒸馏训练。
PaddleOCR 3.5 支持通过设置 engine="transformers",让 PP-OCRv5、PaddleOCR-VL 1.5 等模型以 Hugging Face Transformers 作为推理后端运行,并可通过 engine_config 配置 dtype、设备与 attention 实现。
Hugging Face 发布 Granite Embedding Multilingual R2 两款 Apache 2.0 多语言嵌入模型,均基于 ModernBERT。
微调 Qwen/Qwen3-VL-Embedding-2B 做视觉文档检索(VDR),在作者评测数据上 NDCG@10 从基座的 0.888 提升到 0.947,超过其测试的所有现有 VDR 模型,包括体积达 4 倍的模型。
Hugging Face 发布 Sentence Transformers v5.4,可在同一套 API 下编码和比较文本、图像、音频与视频,用于视觉文档检索、跨模态搜索和多模态 RAG。
推荐理由:官方博客给出 Sentence Transformers v5.4 多模态嵌入与重排序的完整代码用法和模型清单,可直接照抄跑通流程。
NVIDIA 发布一套在单张 GPU 上不到一天完成领域嵌入模型微调的流程,基于 Llama-Nemotron-Embed-1B-v2,无需人工标注。流程用 nemotron-3-nano-30b-a3b 从领域文档生成合成问答数据、挖掘难负样本并做多跳展开,再用对比学习微调,实测 nDCG@10 与 Recall@10 均提升约 10%。
推荐理由:NVIDIA 给出了从合成数据、难负样本挖掘到 ONNX/TensorRT 部署的完整嵌入模型微调配方,附真实评测数字。
Hugging Face 发布 Retrieval Embedding Benchmark(RTEB)beta 版,用公开与私有数据集混合的方式评测嵌入模型的真实检索准确率。RTEB 覆盖 20 种语言及法律、医疗、代码、金融等领域,每个数据集至少 1k 文档和 50 queries,默认榜单指标为 NDCG@10,私有数据集由 MTEB 维护者评测。
Google 发布 EmbeddingGemma,一个面向端侧场景的多语言嵌入模型,308M 参数、2K 上下文窗口,支持 100 多种语言。该模型基于 Gemma3 骨干并改为双向注意力,量化后内存占用低于 200 MB,作者称其在 500M 参数以下的纯文本多语言嵌入模型中 MTEB 排名最高。
推荐理由:读者可以据此了解 308M 参数多语言嵌入模型在 MTEB 上的位置以及端侧 RAG 的落地路径。
Sentence Transformers 现已支持训练和微调稀疏嵌入模型,微调后的 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 成本低廉,尤其适合混合搜索和检索重排场景。
Cohere 现已作为 Inference Provider 接入 HF Hub,成为首个直接在 Hub 上分享并提供模型推理的模型厂商。
Hugging Face 发布教程,介绍如何用 Sentence Transformers 库微调 reranker(Cross Encoder)模型,覆盖数据集、损失函数、训练参数、评估器和 CrossEncoderTrainer 各组件。
Hugging Face 发布博客,拆解每天 10 亿次以上分类与嵌入推理的成本与延迟计算方法。作者用 Inference Endpoints、HF Hub 库、Infinity 推理服务器和 k6 压测,在 nvidia-L4($0.8/hr)上跑出 10 亿次分类 $253.82、嵌入 $409.44,而 ColQwen2 视觉嵌入高达 $44,496.51。
Hugging Face 发布 vdr-2b-multi-v1 多语言嵌入模型,可将文档页面截图直接编码为稠密单向量,无需 OCR 或分块即可检索意、西、英、法、德五种语言的视觉文档。
Digital Green 与 CGIAR、Hugging Face 专家支持计划合作开发农业问答机器人 Farmer.chat,基于 RAG 和 GPT-4o 规划智能体回答农户提问,知识库涵盖近 46000 篇农业研究论文。过去一年该机器人已服务超 2 万名农户、处理逾 34 万次查询。为评估回答质量,团队搭建了 LLM-as-a-Judge 评测体系。
Hugging Face 团队展示如何借助 distilabel 为 Argilla 2.0 构建能理解技术文档的聊天机器人:先从 GitHub 文档生成合成数据集并微调领域专用嵌入模型,再用向量数据库存储和检索文档,最后将 Gradio 应用部署到 HF Spaces,并把交互记录存入 Argilla 持续评估改进。
Banque des Territoires(CDC 集团)、Polyconseil 与 HF Mirror 合作,为 EduRénov 校园生态改造计划搭建基于 RAG 的主权数据方案,项目第一阶段已完成。
Hugging Face 的 HF Mirror Embedding Container for Amazon SageMaker 正式可用(GA),AWS 客户可在 SageMaker 上部署嵌入模型以构建 RAG 等生成式 AI 应用。