Amazon Bedrock 为 Anthropic Claude 模型支持结构化输出
Amazon Bedrock 现已在 bedrock-runtime 和 bedrock-mantle 两个端点上,为所有可用的 Anthropic Claude 模型支持结构化输出,可直接返回符合所定义 JSON schema 的响应,无需自定义解析、重试逻辑或后处理。
该功能通过约束解码在生成 token 时强制执行 schema,提供 JSON Schema 输出格式和严格工具调用两种机制,可用于数据抽取、智能体工具调用和批量分类。首次使用新 schema 需编译语法产物,编译结果按账号缓存 24 小时;schema 结构变更会使缓存失效。该功能已正式可用,支持批量推理,在 bedrock-runtime 上还支持跨区域推理。