再度蝉联！亚马逊云科技连续第三年被评为中国 AI 开发平台领导者

权威机构弗若斯特沙利文（Frost&Sullivan，简称“沙利文”）联合头豹研究院发布了《2023年中国 AI 开发平台市场报告》。报告对 AI 开发平台的数据处理能力，模型构建、训练、评估、部署和推理能力，安全与权限管理能力，服务支持水平，以及应用场景解决方案丰富度等指标进行了增长和创新两个维度的评估，并结合了用户调研结果。亚马逊云科技连续第三年被评为中国 AI 开发平台 “领导者”，并连续在增长指数和创新指数两个维度蝉联第一。

“亚马逊云科技是中国 AI 开发平台领导者，不仅为用户提供 AI 开发全生命周期管理能力，还推出完整的生成式人工智能（Generative AI）技术栈帮助用户简化生成式 AI 应用的开发，同时确保企业的安全隐私。平台融合多样模型，强化数据定制能力，以先进云基础设施支持广泛客户群，深耕中国市场，助力企业快速应用 AI 和 ML。”

    ————《2023年中国 AI 开发平台市场报告》

在生成式 AI 领域，亚马逊云科技支持构建生成式 AI 应用的解决方案包括三层：用于基础模型训练和推理的基础设施、使用基础模型进行构建的工具、利用基础模型构建的开箱即用的应用程序。

亚马逊云科技为用户提供丰富的算力选择，丰富的 AI 基础设施组合涵盖了基于多种 NVIDIA GPU 类型的高性能计算实例和自研芯片。推理方面基于 NVIDIA A10 GPU 的 Amazon EC2 G5 实例和基于 NVIDIA L4 GPU 的 Amazon EC2 G6 实例可用于各种图形密集型和机器学习使用案例。训练方面，Amazon EC2 P4d 实例由 NVIDIA A100 GPU 提供支持，并提供业界领先的高吞吐量和低延迟网络，训练 ML 模型的成本与 P3 实例相比降低多达 60%。Amazon EC2 P5 实例由最新的 NVIDIA H100 GPU 提供支持，进一步将 CPU 性能提高了 2 倍，系统内存提高了 2 倍，本地存储空间增加了 4 倍，可用来训练和部署日益复杂的大型语言模型（LLM）和扩散模型，并为要求最苛刻的生成式 AI 应用程序提供支持。亚马逊与英伟达的合作始于13年之前，双方一起发布了世界上第一个云上 GPU 实例。

近期，亚马逊云科技再次宣布将提供基于最新的 NVIDIA Grace Blackwell GPU 的 Amazon EC2 实例和 NVIDIA DGX Cloud。结合亚马逊云科技强大的 Elastic Fabric Adapter 网络、Amazon EC2 UltraClusters 的超规模集群以及 Nitro 系统的先进虚拟化和安全功能，客户能够更快、更大规模、更安全地构建和运行多万亿参数的大型语言模型。亚马逊云科技持续积极投入先进算力研发以提升构建 AI 应用性价比，目前已发布支持千亿级甚至万亿级参数规模模型训练的自研训练加速芯片 Trainum2 以及面向推理的自研推理加速芯片 Inferentia2，为模型训练和推理提供更高算力、更快的加速比和更好的性价比。

Amazon SageMaker 作为训练与微调基础模型的一站式平台，提供 MLOps 编排和模型试验管理功能，支持可视化特征处理和大规模写作，同时能够直接获取算力资源并做到成本可控。Amazon SageMaker Jumpstart 上还提供了数百个预训练模型的访问权限，用户可以使用专门构建的工具来微调、实验、再训练和部署模型，构建自己的基础模型。

Amazon SageMaker Hyperpod 是专为大规模分布式训练构建的基础设施，预先配置了 Amazon SageMaker 分布式训练库，允许您在亚马逊云科技集群实例中自动拆分模型和训练数据集，有助于高效地扩展训练工作负载，最多可将训练时间缩短 40％，还可自动检测、诊断故障并从中恢复，从而提供更具韧性的训练环境，使您能够连续训练 FM 数月而不会中断，它消除了为训练基础模型构建和优化机器学习基础设施所涉及的千篇一律的繁重工作。

Amazon Bedrock 是一项完全托管的服务，通过单个 API 提供来自 AI21 Labs、Anthropic、Cohere、meta、Mistral AI、Stability AI 和 Amazon 等领先人工智能公司的高性能基础模型，以及通过安全性、隐私性和负责任的 AI 构建生成式 AI 应用程序所需的一系列广泛功能。

例如，由 Anthropic 推出的 Claude 3 在发布的同时即在 Amazon Bedrock 登陆，这一模型家族包含 Claude 3 Haiku、Claude 3 Sonnet 和 Claude 3 Opus（即将上线）三个模型，支持中文及多种语言，并以其卓越的自然语言处理和计算机视觉能力成为了业界翘楚。Mistral AI 的领先模型 Mistral Large 也已登陆 Amazon Bedrock，Mistral Large 拥有出色的语言理解和生成能力，非常适合需要推理能力或高度专门化的复杂任务，如合成文本生成、代码生成、检索增强生成（RAG）或智能代理。

Amazon Bedrock 支持用户自动或者人工评估、比较并选择模型，支持用户通过 RAG 、微调、继续预训练以及提示词工程实现模型定制功能，并且，在 Amazon Bedrock 上使用模型定制功能，用户数据在传输过程和静态时都经过加密，因此，所有数据都能保证安全私密。Knowledge bases for Amazon Bedrock 为基础模型（FM）和 Agent 提供来自私有数据源的上下文信息，用于检索增强生成（RAG），以提供更相关、更准确和更个性化的响应。Agents for Amazon Bedrock 使生成式 AI 应用能够使用自然语言来执行多步骤的业务任务。

Amazon Q 是全新的基于生成式 AI 的助理，专门为工作场景设计，可以根据客户的业务进行定制。用户可以快速获得紧迫问题的答案，生成内容并采取行动——所有这些都基于企业的信息存储库、代码和企业系统。Amazon Q 具备五个专业领域，Amazon Q Business、Amazon Q Developer、Amazon Q in QuickSight、Amazon Q in Connect 和 Amazon Q in Supply Chain。

Amazon Q Business 可以连接业务数据、信息和系统，综合一切信息并提供定制化的帮助，协助员工解决问题、生成内容，以及采取与业务相关的行动。Amazon Q Business 内置 40 多个连接器，可以轻松连接到热门的企业应用程序和文档库，使员工在统一的体验中获取洞见。

Amazon Q Developer 改变了开发人员和 IT 专业人员在亚马逊云科技上构建、部署和运行应用程序和工作负载的方式。Amazon Q  Developer 是亚马逊云科技的良好架构模式、最佳实践、文档和解决方案实施的专家，可以帮助您探索新的亚马逊云科技服务和功能、更快上手、学习不熟悉的技术、排查故障等。在 IDE 中访问时，Amazon Q  Developer 提供软件开发帮助，包括代码解释、代码生成和代码改进，如调试、优化和升级。Amazon Q Developer 可以在您工作的任何地方提供帮助：亚马逊云科技管理控制台、管理控制台移动应用程序、文档、流行的 IDE ，甚至在 Slack 和 Teams 的群聊天室中。

Amazon QuickSight 是一项为云端构建的统一商业智能（BI）服务，提供交互式控制面板、分页报告和嵌入式分析，以及自然语言查询功能。Amazon Q in QuickSignt 使用生成式 AI 功能来快速构建引人入胜的视觉效果、总结见解、回答数据问题并使用自然语言构建数据案例，从而提高业务分析师和商业用户的工作效率。

在我们的联络中心服务 Amazon Connect 中，Amazon Q 可帮助您的客户服务座席提供更好的客户服务，Amazon Q in Connect 使用与客户的实时对话以及相关的公司内容，自动推荐该回答些什么内容或座席应该采取哪些行动来更好地帮助客户。

通过 Amazon Q in Supply Chain（即将推出），库存经理、供应和需求规划人员以及其他人员将能够询问并获得有关供应链中所发生事情、发生原因以及应采取行动的明智答案。他们还将能够以探索假设场景，以了解不同供应链选择之间的权衡。

除了由基础设施、工具和应用程序三层构成的生成式 AI 技术栈之外，企业的数据也是帮助其实现生成式 AI 潜力最大化、获得竞争优势的关键，亚马逊云科技提供全面、集成、可治理的数据服务，帮助用户构建坚实的数据底座。

亚马逊云科技强调帮助企业建立公正、可解释、稳健、透明、可治理、确保隐私与安全的“负责任的 AI”。在具体功能方面，亚马逊云科技确保用户用于自定义模型的数据将保留在客户自己的 VPC 内，任何数据均不会用于训练底层模型；在模型训练与推理的各个环节，所有数据在传输和静态时均经过加密，确保数据安全；支持 GDPR 以及 HIPAA 等标准。

此外，推出 Guardrails for Amazon Bedrock ，提供结合客户应用场景与“负责任的 AI”原则定制的功能，让用户可以使用自然语言定义其应用程序中需要被拒绝的话题，也可以配置负面内容的阈值来过滤有害内容，还可以设定模型响应中的个人身份信息的变换方法，以保证安全、设置脏话过滤器，并提供自定义单词列表阻止用户和模型之间的交互。通过提供一致的用户体验并标准化生成型 AI 应用程序的安全和隐私控制。