跳到正文
AWS Machine Learning Blog· Aamna Najmi·· 26 天前 精选AI 评分71

Claude Haiku 5.5 上线 AWS Bedrock 与 Claude Platform on AWS

Introducing Claude Haiku 5.5 on AWS

AI 导读

AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用。

摘要与补充说明

AWS 官方给出 Haiku 5.5 在 Bedrock 上的可用区域、调用方式与成本定位,便于判断它在多智能体分层中的位置。

正文· AI 翻译

今天,我们很高兴地宣布,Claude Haiku 5.5 已在 Amazon Bedrock 和 Claude Platform on AWS 上正式可用。据 Anthropic 介绍,Claude Haiku 5.5 是 Claude 5.5 系列中速度最快、效率最高的模型,专为子代理以及高并发、对成本敏感的工作负载而打造。在大多数任务上,它的成本还比 Claude Haiku 4.5 低约 75%。

Amazon Bedrock 让你在获得 Haiku 5.5 能力的同时,将数据保留在 AWS 基础设施内,并支持区域数据驻留。它可与你的团队已在使用的 AWS 管控措施配合使用,包括用于访问控制的 AWS Identity and Access Management(IAM)、用于审计的 AWS CloudTrail、用于监控的 Amazon CloudWatch,以及 Amazon Bedrock Guardrails。用量会显示在你的 AWS 账单上。

Claude Platform on AWS 让你通过 AWS Management Console 直接访问 Anthropic 原生平台的体验与能力。你可以使用与直接对接 Anthropic 时相同的 API、功能和控制台体验来构建、测试和部署,并与 AWS 账单和身份验证统一。

本文介绍 Claude Haiku 5.5 的改进之处、何时选择 Haiku 5.5 的实用建议,以及如何在 Amazon Bedrock 上开始使用。

Claude Haiku 5.5 的不同之处

Claude Haiku 5.5 是 Anthropic 能力最强的 Haiku 模型,覆盖编码、工具使用、计算机使用和代理式任务。它也是首个具备 effort 控制功能的 Haiku 模型,因此你可以针对每项任务在成本与智能之间进行调节,而不必为整个工作负载只选一种设置。

这些改进在大规模、快速且可重复的工作中尤为突出。在编码任务中,它可作为子代理来路由请求、审查代码并对长文档进行分类。在知识工作中,Haiku 5.5 可从中小型文档中提取关键信息、执行初步扫描,并基于知识库回答快速问题。在交互式应用中,它的响应速度足以让简单对话获得快速且有帮助的答案。它还能以生产功能所需的数量和成本处理分类、摘要和文本生成等传统自然语言处理(NLP)任务。

Haiku 5.5 可处理代理式编码和多步工具使用,并支持高分辨率图像。Haiku 5.5 可作为强大的计算机使用子代理,以在规模化下依然可承受的成本执行重复性的浏览器和桌面任务。在开发工作流中,它非常适合快速迭代 UI 和 UX 变更,以及跨多个文件进行小型、具体的代码库更改。

将 Claude Haiku 5.5 与 Opus 5.5 搭配使用

Haiku 5.5 可与最近发布的 Claude Opus 5.5 搭配使用。二者组合成一个强大的团队:Opus 5.5 负责规划并做出判断,Haiku 5.5 则快速、大规模地执行定义明确的任务。你可以在关键之处获得审慎推理,同时在所有环节获得更低的成本和延迟。

  1. Claude Opus 5.5 负责规划工作并做出判断。它会分解复杂问题、决定方法,并承担最困难的推理,例如发布调试、大型拉取请求的安全审查,以及最终形成完整报告的长篇分析。
  2. Claude Haiku 5.5 承担子代理的快速层任务。它处理快速、高并发的任务,例如请求路由、分类与摘要、长文档改写,以及在众多文件中应用小范围的具体修改。作为审查子代理,它可以快速检查操作顺序和高层方向,从而让 Opus 5.5 将 token 用于最困难的推理。由于它快速且成本高效,你可以并行运行多个 Haiku 子代理。

在 Amazon Bedrock 上开始使用 Claude Haiku 5.5

要试用 Haiku 5.5,请打开 Amazon Bedrock 控制台,选择 Test,然后选择 Playground,并将 Haiku 5.5 选为模型。随后,你可以直接对它运行提示词。

图 1:在 Amazon Bedrock 控制台 Playground 中选择 Anthropic Claude 模型

在编程方式上,你可以通过 Anthropic SDK 使用 Anthropic Messages API 针对 bedrock-runtime 调用该模型。你也可以通过 AWS Command Line Interface (AWS CLI) 和 AWS SDK 在 bedrock-runtime 上使用 Invoke 和 Converse API。

先决条件

你必须具备以下先决条件:

  1. 具有 Amazon Bedrock 访问权限的有效 AWS 账户。
  2. 已安装并配置 AWS Command Line Interface (AWS CLI)。
  3. Python 3.10+。
  4. 已安装 Boto3:pip install boto3。
  5. 已安装 Anthropic SDK:pip install anthropic。
  6. 已安装用于 Amazon Bedrock 身份验证的 Amazon Bedrock Token Generator:pip install aws_bedrock_token_generator。
  7. AWS Identity and Access Management (IAM) 权限:bedrock:InvokeModel、bedrock:InvokeModelWithResponseStream。

以下是一个使用 AWS SDK for Python (Boto3) 和 InvokeModel API 的快速示例:

import boto3
import json

# Create a Bedrock Runtime client
bedrock_runtime = boto3.client(
    service_name="bedrock-runtime",
    region_name="us-east-1"
)

# Invoke Claude Haiku 5.5
response = bedrock_runtime.invoke_model(
    modelId="global.anthropic.claude-haiku-5-5",
    contentType="application/json",
    accept="application/json",
    body=json.dumps({
        "anthropic_version": "bedrock-2023-05-31",
        "max_tokens": 4096,
        "messages": [
            {
                "role": "user",
                "content": "Can you explain the features of Amazon Bedrock?"
            }
        ]
    })
)

result = json.loads(response["body"].read())
# Haiku 5.5 may return a thinking block before the text block,
# so select the text block rather than a fixed index.
print(next(b["text"] for b in result["content"] if b["type"] == "text"))

你也可以使用 Amazon Bedrock Converse API 获得统一的多模型体验:

import boto3

# Create a Bedrock Runtime client
bedrock_runtime = boto3.client(
    service_name="bedrock-runtime",
    region_name="us-east-1"
)

# Invoke Claude Haiku 5.5
response = bedrock_runtime.converse(
    modelId="global.anthropic.claude-haiku-5-5",
    messages=[
        {
            "role": "user",
            "content": [
                {
                    "text": "Can you explain the features of Amazon Bedrock?"
                }
            ]
        }
    ],
    inferenceConfig={
        "maxTokens": 4096
    }
)

if 'output' in response:
    blocks = response['output']['message']['content']
    print('\n'.join(b.get('text', '') for b in blocks if 'text' in b))

你也可以通过 anthropic SDK 包使用 Anthropic Messages API,获得更简化的体验:

from anthropic import Anthropic
from aws_bedrock_token_generator import provide_token

token = provide_token(region="us-east-1")

client = Anthropic(
    base_url="https://bedrock-runtime.us-east-1.amazonaws.com/anthropic",
    api_key=token,
)

# Invoke Claude Haiku 5.5
response = client.messages.create(
    model="global.anthropic.claude-haiku-5-5",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}],
)
print(response)

你可以浏览 Getting Started notebook 了解更多示例。你可以通过 Amazon CloudWatch 和 AWS Cost Explorer 监控使用情况、性能和成本,以便随着需求增长扩展你的应用程序。

可用性

Claude Haiku 5.5 现已在 Amazon Bedrock 上通过 bedrock-runtime 上的 US Geo CRIS (us.)、EU Geo CRIS (eu.)、AU Geo CRIS (au.)、JP Geo CRIS (jp.) 和 Global CRIS (global.) 推理配置文件提供。在 AWS GovCloud (US) 中,它可在 bedrock-runtime 和 bedrock-mantle 两个端点上使用。

有关支持的 AWS 区域完整列表,请参阅 Amazon Bedrock 文档。有关定价信息,请参阅 Amazon Bedrock 定价。它也可通过北美的 Claude Platform on AWS 使用

在 Amazon Bedrock 控制台、Claude Platform on AWS 中试用 Claude Haiku 5.5,或浏览 GitHub 上的 Getting Started notebooks。


关于作者

Aamna Najmi

Aamna Najmi

Aamna 是生成式 AI 高级专家解决方案架构师,专注于 Anthropic 模型,以及在 Amazon Bedrock 上大规模运营和治理生成式 AI 系统。她帮助 ISV 解决挑战、拥抱创新,并借助 Amazon Bedrock 创造新的业务机会。

Dani Mitchell

Dani Mitchell

Dani 是 AWS 生成式 AI 高级专家解决方案架构师,负责 Anthropic on Amazon Bedrock 的市场推广工作。他帮助全球企业利用 Amazon Bedrock 上 Anthropic 的模型和能力设计并部署生成式 AI 解决方案,以构建可扩展、可用于生产的应用程序。

Alfredo Castillo

Alfredo Castillo

Alfredo 是 AWS 的生成式 AI 高级专家解决方案架构师,专注于 Anthropic 模型在 Amazon Bedrock 上的市场推广。他与金融服务客户合作,设计并扩展跨分布式系统的生成式 AI 解决方案,并将生成式 AI 实验转化为生产工作负载。工作之外,他热爱家庭和耐力运动。

Sofian Hamiti

Sofian Hamiti

Sofian 是一位技术领导者,拥有超过 12 年构建 AI 解决方案的经验,并带领高绩效团队最大化客户成果。他热衷于赋能多元化人才,以推动全球影响力并实现他们的职业抱负。

来源:AWS Machine Learning Blog · aws.amazon.com阅读原文

相关阅读

专题与标签

相关资讯专题

相关评测

Claude Haiku 5.5 · 模型榜