跳到正文
原文
AWS Machine Learning Blog· Tanvi Girinath·· 15 天前精选AI 评分71

GPT-6.1 Sol 在 Amazon Bedrock 正式可用

Bring near-Astra intelligence to everyday work with GPT-6.1 Sol on Amazon Bedrock

AI 导读

GPT-6.1 Sol 在 Amazon Bedrock 正式可用,为智能体编码、电脑操作和专业工作流带来更强推理能力,是 GPT-6 Sol 的一次重大升级。

推荐理由

原文给出 GPT-6.1 Sol 在 Bedrock 上的能力与成本数据,读者可据此判断智能体编码任务的部署选择。

正文 · AI 翻译

GPT-6.1 Sol 现已在 Amazon Bedrock 上正式可用,为频繁运行的编码、计算机使用和专业工作负载带来更强的推理能力。

AI 智能体要完成一项任务,可能需要收集信息、使用工具、测试不同方法、从错误中恢复并验证结果。每一个决策都会影响接下来的走向。一步走错,就会在智能体得出有用结果之前增加模型交互、工具调用、延迟和人工干预。

AI 智能体的经济性体现在整个任务过程中。Token 价格影响每次交互的成本,而推理质量则影响这项工作需要多少次交互,以及这些交互能否带来成功的结果。完成任务的总成本取决于这两者。

今天,GPT-6.1 Sol 已正式可用于 Amazon Bedrock,运行在一个为大规模性能、安全性和可靠性而构建的推理引擎上。作为 GPT-6 Sol 的重大升级,它在智能体编码、计算机使用和专业工作方面表现出强劲的性能。据 OpenAI 称,它为日常 工作流带来了接近 Astra 的智能水平。

在智能体工作中应用更强的推理能力

更高效地驾驭软件工程工作流

软件工程展示了推理质量如何影响整个工作流。智能体可能需要理解一个陌生的代码仓库、追踪依赖关系、确定在哪里进行更改并验证实现。据 OpenAI 称,GPT-6.1 Sol 在 DeepSWE v1.1 上达到与 GPT-6 Astra 相当的水平,而每任务成本约为其五分之一。它还以低于 GPT-6 Sol 该结果所用的推理强度,超出 GPT-6 Sol 最佳成绩 6.4 个百分点。

Codex 将这种推理能力应用于整个开发周期。你可以配置 Codex 在 Amazon Bedrock 上使用 GPT-6.1 Sol,用于涵盖调查、实现和测试的工作。Codex 可与代码仓库、本地文件、终端和开发工具协作,编写功能、修复缺陷并运行测试。你可以通过桌面应用、CLI 和受支持的 IDE 访问 Codex。对于 AWS 开发,Agent Toolkit for AWS 通过一条终端命令将 Codex 连接到 AWS 文档、API 和服务。

将信息转化为跨文档和工具的行动

当智能体必须解读复杂文档、选择合适的工具并随条件变化而调整时,同样的推理能力也适用。据 OpenAI 称,GPT-6.1 Sol 在复杂文档分析方面接近 GPT-6 Astra,并在跨业务工具完成多步骤工作流方面优于 GPT-6 Sol。

你可以通过开箱即用的体验或自行构建的应用来运用这些能力。在桌面应用中,ChatGPT Work 可以跨文件和应用程序收集信息,并将其转化为最终交付成果。使用受支持的 Amazon Bedrock API,你还可以构建用于综合文档的内部工具、跨系统协调工作的智能体,以及评估多种输入的面向客户的应用程序。

认识局限性并遵守约束

要在不同工具之间高效协作,还需要 agent 能够识别工具何时失败、操作何时受限或信息何时缺失。传达这些限制可以让应用程序或用户及时介入,避免 agent 在不完整信息下继续推进或采取非预期操作。据 OpenAI 称,GPT-6.1 Sol 在透明度、用户意图和明确限制等具有挑战性的评估中,相比 GPT-6 Sol 有所改进。

使用受支持的 Amazon Bedrock API 进行构建时,你可以定义可供模型使用的工具。你还可以决定当某个操作需要审批或无法完成时,应用程序如何响应。这些应用程序级别的控制与模型改进相辅相成,帮助你在工作流进入关键决策点时让人参与其中。

在 Amazon Bedrock 上运行 GPT-6.1 Sol

Amazon Bedrock 提供了在生产环境中运行 GPT-6.1 Sol 的基础设施和控制能力。你可以通过 AWS Identity and Access Management (IAM) 策略来治理模型访问,并通过 AWS CloudTrail 审计调用。为了帮助将流量保留在你的网络边界内,你可以使用由 AWS PrivateLink 提供支持的虚拟私有云 (VPC) 终端节点。推理在硬件隔离的基础设施上运行,且为零操作员访问,因此即使在推理期间,AWS 操作员也无法访问你的提示和补全内容。

你的推理数据不会用于模型训练,使用 GPT-6.1 Sol 也不需要你选择将数据共享给 OpenAI。对于自动滥用检测,被分类器标记的流量将由 AWS 保留最多 30 天并以程序化方式处理。你可以通过你的 AWS 客户团队申请零数据保留。有关详细信息,请参阅数据保留。

开始使用

GPT-6.1 Sol 以每个任务成本的一小部分为 agentic 工作带来更强的推理能力,让你的 agent 以更少的步骤得出正确答案。你可以在 Amazon Bedrock 控制台中开始使用 GPT-6.1 Sol,也可以通过受支持的 Amazon Bedrock API 以编程方式使用。有关受支持的 AWS 区域、终端节点、API、功能、推理配置文件和定价的信息,请参阅 Amazon Bedrock 文档。

有兴趣了解 Amazon Bedrock 如何为你的团队提供支持? 联系我们,开始交流。


关于作者

Tanvi Girinath

Tanvi Girinath

Tanvi 是 Amazon Web Services (AWS) 的 Amazon Bedrock 产品营销经理,她帮助客户使用 Amazon Bedrock 采用并扩展 AI 应用程序和代理。

Chris Dickens

Chris Dickens

Chris 是 OpenAI 的产品团队成员,专注于 OpenAI API。他的工作包括与 AWS 在 Amazon Bedrock 上合作,使 OpenAI 的前沿模型能够被开发者广泛使用。

Manish Rathaur

Manish Rathaur

Manish 是 Amazon Bedrock 的高级产品经理。

来源:AWS Machine Learning Blog · aws.amazon.com