云服务提供商集成
Caret 支持主要的云服务提供商，如 AWS Bedrock 和 Google 的 Cloud Vertex；您团队当前使用的任何一家都是合适的，无需更换提供商来利用 Caret 的功能。
本文档假设您的组织将使用基于云的前沿模型。云推理提供商提供尖端功能和选择最适合您需求的模型的灵活性。
某些场景可能需要使用本地模型，包括处理高度敏感数据、需要一致低延迟响应的应用程序，或遵守严格的数据主权要求。如果您的团队需要使用本地模型，请参阅使用 Caret 运行本地模型。
AWS Bedrock 设置指南
IAM 安全最佳实践（适用于管理员）
使用 API 密钥设置 AWS Bedrock
使用传统 IAM（AWS 凭证）设置 AWS Bedrock
使用 SSO 令牌（AWS 配置文件）设置 AWS Bedrock
VPC 端点设置
为了保护团队的数据，Caret 支持 VPC（虚拟私有云）端点，它在您的数据和 AWS Bedrock 之间创建私有连接。AWS VPC 通过消除对公共 IP 地址、网络网关或复杂防火墙规则的需求来增强安全性——本质上为数据创建了一条完全绕过公共互联网的私有高速公路。通过将流量保持在 AWS 的私有网络内，团队在访问 AWS Bedrock 或自定义 API 等服务时还可以从更低的延迟和更可预测的性能中受益。对于处理机密信息或在医疗保健或金融等高度监管行业中运营的人员，VPC 在云服务的可访问性和私有基础设施的安全性之间提供了完美的平衡。
