AWS 机器学习 ↗ · 2026-11-20 08:33 · UTC+8
Use Kimi Code CLI with models on Amazon Bedrock
媒体报道 AWS 机器学习 原文语言:英文
Moonshot AI has released Kimi Code CLI v2.7.0, adding a native Bedrock provider that allows developers to use standard AWS credential chains instead of manually managing API keys.
全文
在 Amazon Bedrock 上使用 Kimi Code CLI 运行模型
Kimi Code CLI 是由 Moonshot AI 推出的开源编码智能体,Moonshot AI 也是 Kimi 系列开源基础模型的创建者。此前,在 Amazon Bedrock 上使用 Kimi Code 意味着需要通过 Amazon Bedrock API 密钥配置一个通用的连接“提供商”。对于许多 AWS 客户而言,这意味着需要引入额外的凭证来获取和保护。
从 v2.7.0 版本开始,Moonshot AI 在 CLI 中添加了一个原生的 bedrock 提供商。您现在可以配置智能体使用标准的 AWS 凭证链(包括命名配置文件和单点登录 (SSO)),而无需创建和管理单独的 API 密钥。
在这篇文章中,我们将向您展示如何使用现有的 AWS 凭证将 Kimi Code CLI 连接到 Amazon Bedrock 上的模型。我们以 Kimi K3.1 Pro Highspeed 为例,该模型支持流式传输、可配置推理、图像输入和客户端工具调用。
新功能
Amazon Bedrock 通过标准 API 为领先提供商的一系列开源和专有模型提供按 token 计费的推理服务。处理过程保留在 AWS 数据边界内,详见《用户指南》中的“数据保护”部分。模型卡详细介绍了每个模型支持的 API 和功能。
在旧版本的 Kimi Code CLI 中,您可以通过 type = "openai" 或 type = "openai_responses" 的提供商连接到 Amazon Bedrock。它们分别使用兼容 OpenAI 的 Chat Completions 或 Responses API。这种方法需要您设置区域性的 base_url 并提供 Amazon Bedrock API 密钥。该密钥可以是短期或长期的,但它需要您获取和管理一个单独的凭证。
原生提供商改变了这种设置:
使用您现有的 AWS 身份验证工作流。bedrock 提供商可以通过标准的 AWS 命令行界面 (AWS CLI) 凭证链解析临时凭证。您可以使用默认链或选择命名的配置文件,包括由 SSO 支持的配置文件。
如果需要,可覆盖每个模型的协议。提供商会根据模型 ID 推断 API 格式和区域终端节点,但您可以按照本文“覆盖终端节点 URL 和协议”部分中的详细说明进行更改。
AWS 推荐使用短期凭证而非长期凭证。这条新路径减少了对手动管理的 API 密钥的依赖,但它并未改变您保护 AWS 凭证和适当地划分权限范围的责任。
工作原理
原生提供商通过四个步骤处理身份验证和请求路由:
解析 AWS 凭证。除非您配置了 Amazon Bedrock API 密钥,否则 bedrock 提供商将使用您环境中的标准 AWS 凭证链。您可以设置 AWS_PROFILE 来选择特定的命名配置文件。
生成短期不记名令牌。提供商使用 @aws/bedrock-token-generator 创建短期的 Amazon Bedrock API 密钥,并在必要时进行续订。您无需在 Kimi Code 的 config.toml 中放置任何 AWS 访问密钥或手动生成的 Amazon Bedrock 密钥。不过,如果您提供了通过 api_key 或 api_key_env 给出的显式密钥,则该密钥优先。
构建区域终端节点。提供商解析 AWS_REGION 或 AWS_DEFAULT_REGION,并为模型的推断 API 构建适当的 bedrock-runtime 终端节点。对于 Kimi 模型,这会解析为推荐的兼容 OpenAI 的 Chat Completions 路径。
调用所选的推理配置文件。模型别名会映射到 Amazon Bedrock 模型或推理配置文件 ID。此示例使用全局推理配置文件 global.moonshotai.kimi-k3.1。global. 前缀用于选择配置文件,而 AWS_REGION 则决定了接收您请求的区域终端节点。
随后,CLI 会流式传输模型响应,并能够在编码任务期间使用模型的客户端工具调用支持。身份验证、授权、模型访问和网络连接必须全部成功,请求才能完成。由提供商生成的临时 API 密钥最长有效 12 小时或您的 AWS 会话长度(以较短者为准)。
前提条件
在本演练中,我们以 Kimi K3.1 Pro Highspeed 作为示例模型,通过全球跨区域推理进行访问,以获得最广泛的可用性和最低的成本。在使用模型之前,请查看 Amazon Bedrock 定价以了解预期成本。
要进行后续操作,您需要:
拥有对目标模型和推理配置文件的访问权限的 AWS 账户,且位于受支持的源 AWS 区域。请查看 Kimi K3.1 Pro Highspeed 模型卡以获取当前区域和推理配置文件的支持情况。
Kimi Code CLI 版本 2.7.0 或更高。请遵循 Kimi Code CLI 安装指南,并运行 kimi --version 检查您的安装。
AWS CLI,用于执行本文中的配置文件和身份检查命令。可选的 aws 登录工作流需要 AWS CLI v2.32.0 或更高。
拥有在所选 AWS 区域调用目标模型和推理配置文件权限的 AWS 身份与访问管理(IAM)身份(用户或已假设角色)。
以下示例 IAM 策略授予本教程使用的权限,仅适用于 Kimi K3.1 Pro Highspeed 模型和全局推理配置文件。将 ${AWS_REGION} 替换为您的源区域(例如美国西部俄勒冈的 us-west-2),将 ${AWS_ACCOUNT_ID} 替换为您的 12 位 AWS 账户 ID:
{ "Version": "2012-10-17", "Statement": [ { "Sid": "BedrockShortTermBearerToken", "Effect": "Allow", "Action": "bedrock:CallWithBearerToken", "Resource": "*", "Condition": { "StringEquals": { "bedrock:bearerTokenType": "SHORT_TERM" } } }, { "Sid": "BedrockReadKimiK31InferenceProfile", "Effect": "Allow", "Action": "bedrock:GetInferenceProfile", "Resource": "arn:aws:bedrock:${AWS_REGION}:${AWS_ACCOUNT_ID}:inference-profile/global.moonshotai.kimi-k3.1" }, { "Sid": "BedrockInvokeKimiK31GlobalProfile", "Effect": "Allow", "Action": [ "bedrock:InvokeModel", "bedrock:InvokeModelWithResponseStream" ], "Resource": "arn:aws:bedrock:${AWS_REGION}:${AWS_ACCOUNT_ID}:inference-profile/global.moonshotai.kimi-k3.1" }, { "Sid": "BedrockInvokeKimiK31ModelsThroughGlobalProfile", "Effect": "Allow", "Action": [ "bedrock:InvokeModel", "bedrock:InvokeModelWithResponseStream" ], "Resource": [ "arn:aws:bedrock:${AWS_REGION}::foundation-model/moonshotai.kimi-k3.1", "arn:aws:bedrock:::foundation-model/moonshotai.kimi-k3.1" ], "Condition": { "StringEquals": { "bedrock:InferenceProfileArn": "arn:aws:bedrock:${AWS_REGION}:${AWS_ACCOUNT_ID}:inference-profile/global.moonshotai.kimi-k3.1" } } }, { "Sid": "BedrockInvokeKimiK31DefaultProject", "Effect": "Allow", "Action": [ "bedrock:InvokeModel" ], "Resource": "arn:aws:bedrock:${AWS_REGION}:${AWS_ACCOUNT_ID}:project/default", "Condition": { "StringEquals": { "bedrock:ModelArn": "arn:aws:bedrock:${AWS_REGION}:${AWS_ACCOUNT_ID}:inference-profile/global.moonshotai.kimi-k3.1" } } } ] }
未指定区域或账户 ID 的 foundation-model ARN 是有意为之,并且是跨区域全局路由所必需的。BedrockInvokeKimiK31DefaultProject 语句仅在使用 openai_responses 协议时需要,默认的 openai(Chat Completions)不需要。
AWS 环境的安全是共享责任。请根据最小权限原则审查并授予 IAM 权限,尤其是在生产环境中。建议为 Kimi Code CLI 使用专用的 IAM 角色,避免与日常 AWS 活动混用。
开始使用 bedrock 提供商
准备好前置条件后,按照以下步骤配置 AWS 认证、添加提供商和模型,并发送测试请求。
步骤 1:配置 AWS 凭证
根据组织的设置,AWS CLI 有多种认证方式。使用命名配置文件时,您可以配置多个 AWS 上下文并在它们之间切换。
例如:
如果您通过 AWS IAM Identity Center 使用 SSO,运行 aws configure sso --profile YOUR_PROFILE_NAME 来设置配置文件,然后运行 aws sso login --profile YOUR_PROFILE_NAME 进行认证。
要使用 AWS 管理控制台凭证并配合 AWS CLI v2.32.0 或更高版本,运行 aws login --profile YOUR_PROFILE_NAME。控制台凭证登录指南还描述了 credential_process 配置,以供不直接支持缓存登录会话的工具使用。
省略 --profile 参数即可使用默认的 AWS 配置文件,而不是命名的配置文件。
无论选择哪种方式,您的会话都会解析为需要上述前置条件中 Amazon Bedrock 权限的 IAM 身份(用户或角色)。AWS CLI 配置文件中的区域会影响 AWS CLI 命令,但在步骤 2 中仍需为 Kimi Code 明确设置区域。
验证 AWS CLI 是否解析为您期望的身份。如果使用默认配置文件,请省略 --profile YOUR_PROFILE_NAME:
aws sts get-caller-identity --profile YOUR_PROFILE_NAME
步骤 2:添加提供商和模型
在文本编辑器中打开或创建 ~/.kimi-code/config.toml。如果您设置了 KIMI_CODE_HOME,请改用 $KIMI_CODE_HOME/config.toml。如果您已有现有文件,请先进行备份,并将这些条目与您当前的设置进行合并,而不是覆盖不相关的提供商或模型。
将 YOUR_SOURCE_REGION 替换为您支持的源区域(例如 us-west-2)。要使用命名的配置文件,请替换 YOUR_PROFILE_NAME 并取消注释 AWS_PROFILE 行:
default_model = "bedrock-kimi-k3-1" [providers.bedrock] type = "bedrock" [providers.bedrock.env] AWS_REGION = "YOUR_SOURCE_REGION" # AWS_PROFILE = "YOUR_PROFILE_NAME" [models.bedrock-kimi-k3-1] provider = "bedrock" model = "global.moonshotai.kimi-k3.1" max_context_size = 1000000 capabilities = ["always_thinking", "thinking", "image_in", "tool_use"]
模型别名 bedrock-kimi-k3-1 是 Kimi Code CLI 使用的本地名称。模型值是 Amazon Bedrock 全局推理配置文件 ID。该示例声明了一个 100 万 token 的上下文窗口,以及显式的推理、图像输入和工具调用功能。它省略了 api_key、api_key_env 和 AWS_BEARER_TOKEN_BEDROCK,因此提供商将使用环境 AWS 凭证。配置的 Amazon Bedrock 密钥将具有优先权。
保存文件。[providers.bedrock.env] 表向提供商提供配置。它不会将变量导出到您的 shell 中。
第 3 步:发送请求并开始编码会话
运行一个小型非交互式编码请求:
kimi --model bedrock-kimi-k3-1 --prompt "Write a Python function that checks whether a string is a palindrome. Include a short usage example."
确认 CLI 流式传输响应时没有出现身份验证、授权、区域、模型访问或网络错误。与提供商状态指示器相比,此请求提供了更有意义的连接检查。
在项目目录中启动交互式会话:
cd /path/to/your/project kimi
由于您设置了 default_model,会话将自动选择 bedrock-kimi-k3-1。让代理解释仓库或提议一个小的更改。在批准其提议的文件修改和 shell 命令之前进行审查。
配置最佳实践
在撰写本文时,原生的 bedrock 提供商有几个配置注意事项。这些实践可帮助您避免产生模棱两可的状态信息和不匹配的设置。
使用配置文件来设置提供商
在撰写本文时,Kimi Code 的桌面和网页提供商创建界面并未公开此凭据链设置所使用的所有提供商环境变量。请直接编辑 config.toml 以设置 Amazon Bedrock 提供商。有关更多详细信息,请参考 Kimi Code 文档中的“模型提供商”。
显式声明模型功能
Kimi Code 不会自动检测 Amazon Bedrock 上大多数模型(包括 Kimi 模型)的功能。请查看每个目标模型的 Amazon Bedrock 模型卡片,并显式声明其功能,以便 Kimi Code 能够使用它们。
例如,Kimi K3.1 Pro Highspeed 支持 always_thinking、thinking、image_in 和 tool_use,但不支持 audio_in 或 video_in,正如前面显示的 config.toml 示例中所反映的那样。
这些声明描述了客户端行为。您只能包含每个目标模型和 Amazon Bedrock API 端点所支持的功能。请验证应用程序的工具和图像工作流,而不要仅仅依赖功能标签。
保持区域设置一致,并在可能的情况下首选跨区域推理
bedrock 提供商要求在 Kimi Code 的 config.toml 或 shell 环境中显式指定 AWS_REGION 或 AWS_DEFAULT_REGION。它无法推断仅在 ~/.aws/config 中或通过 aws configure 配置的区域。
当您使用跨区域推理配置文件(带有前缀如 global.、us. 或 in.)时,配置的 Kimi Code 区域将控制接收您请求的源区域。有关更多信息,请参考《Amazon Bedrock 用户指南》中的跨区域推理。
对于没有数据驻留要求的的工作负载,请从全局推理配置文件开始。与通过地理配置文件相比,该模型(以及许多其他模型)的全局推理定价低 10%。请查看 Amazon Bedrock 定价以了解当前费率和地理替代方案。
在需要时覆盖端点 URL 和协议
在某些情况下,提供商的自动检测功能可能会误判您想要用于特定模型的 API 协议或目标 URL。例如,您需要设置不同的 URL,以便通过 VPC 端点或 Mantle 端点使用 Amazon Bedrock。
在 Kimi Code 的 config.toml 中,您可以:
将 protocol 字段设置为 openai(Chat Completions)、openai_responses 或 anthropic(Messages),以配置模型使用特定的受支持传输协议。请参阅模型卡片以了解哪些模型支持哪些 API。
设置 base_url 字段以更改目标 URL,该 URL 必须包含任何附加的 API 路径,例如 /openai/v1 或 /anthropic。
在以下示例中,我们展示了一个配置,用于通过您设置的 Amazon Bedrock VPC 端点连接到同一模型,但使用的是 OpenAI Responses API:
[models.bedrock-kimi-k3-1] provider = "bedrock" model = "global.moonshotai.kimi-k3.1" max_context_size = 1000000 capabilities = ["always_thinking", "thinking", "image_in", "tool_use"] protocol = "openai_responses" base_url = "https://vpce-EXAMPLE-VPCEID.bedrock-runtime.us-west-2.vpce.amazonaws.com/openai/v1"
将连接状态视为配置指示器
在 Kimi Code 桌面版和 Web 应用中,提供商列表可能会显示 bedrock 提供商已连接。该状态并不能验证已配置的 AWS 凭证、IAM 权限、区域、模型访问权限或网络路径。请勿将其视为模型请求成功的证明。请使用非交互式提示来测试完整路径,并在失败时诊断实际响应。
清理
如果您创建了新的 AWS IAM 身份或分配了新权限来试用 Amazon Bedrock 上的 Kimi K3.1 Pro,请记得在测试完成后将其删除。
您可能还想还原您设置的任何本地 Kimi Code CLI 提供商配置或 AWS CLI 配置文件。如果不再需要,您甚至可以完全卸载这些 CLI。有关详细信息,请参阅 Kimi Code 和 AWS CLI 的卸载指南。请记住,删除本地 AWS 配置或 CLI 本身并不会撤销 IAM 权限或活动的 AWS 会话。
我们展示的模型的 Amazon Bedrock 推理按 token 收费,因此无需清理持久化的云基础设施部署。
结论
我们展示了 Kimi Code CLI v2.7.0 中 Moonshot AI 原生的 bedrock 提供商如何通过标准的 AWS 凭证链连接到 Amazon Bedrock 上的 Kimi K3.1 Pro Highspeed。您不再需要单独管理的 Amazon Bedrock API 密钥。
Amazon Bedrock 让您能够通过标准 API 访问来自领先提供商的开源和专有 AI 模型。其治理控制和合规性验证计划甚至可以支持受严格监管的工作负载。
如果您已经在使用 Kimi Code CLI 并希望在 AWS 上运行推理,请立即升级并体验这种简化的身份验证。
有关 Amazon Bedrock 上 Kimi K3.1 Pro 的更多信息,请参阅我们的发布博客文章和 AWS 上的 Moonshot AI 示例仓库。要探索各模型支持的 API 和功能,请参阅《Amazon Bedrock 用户指南》中的模型卡片。要与 Amazon Bedrock 团队讨论您的用例,请与我们联系。
正文为 AI 译文。