广告
开源模型 Next Level！Llama 3.1系列模型已在 Amazon Bedrock 可用
今天，我们宣布在 Amazon Bedrock 上提供 Llama 3.1模型。Llama 3.1模型是 meta 迄今为止极其先进、强大的模型。Llama 3.1模型包括8B、70B 和405B 三种参数量的模型，在广泛的行业基准测试中展现出了最先进的性能，并为您的生成式 AI 应用程序提供了新的功能。
所有 Llama 3.1模型都支持128K 的上下文长度(比 Llama 3多120K 个 token )，容量是 Llama 3模型的16倍，并针对包括英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语在内的八种语言的多语种对话用例，提高了推理能力。
您现在可以在 Amazon Bedrock 中使用来自 meta 的三种新的 Llama 3.1模型，来构建、实验和负责任地扩展您的生成式 AI 理念：
· Llama 3.1 405B（预览版）据 meta 称是目前公开可用的最大的大型语言模型 ( LLM )。该模型为生成式 AI 确立了新的标准，非常适合企业级应用和研发。它非常适合诸如合成数据生成之类的任务，其模型输出可用于改进较小参数的 Llama 模型和模型蒸馏，从405B 模型向较小模型转移知识。该模型擅长于通用知识、长篇文本生成、多语种翻译、机器翻译、编码、数学、工具使用、增强的上下文理解以及高级推理和决策。要了解更多信息，请访问亚马逊云科技机器学习博客，了解如何使用 Llama 3.1 405B 生成用于模型蒸馏的合成数据。
· Llama 3.1 70B 非常适合内容创作、对话式 AI、语言理解、研发和企业应用。该模型擅长于文本摘要和准确性、文本分类、情感分析和细微推理、语言建模、对话系统、代码生成和遵循指令。
· Llama 3.1 8B 最适合计算能力和资源有限的情况。该模型擅长于低延迟推理需求下的文本摘要、文本分类、情感分析和语言翻译场景。
meta 在超过150个涵盖广泛语言的基准数据集上测试了 Llama 3.1的性能，并进行了大量的人工评估。如下图所示，Llama 3.1在每个主要基准测试类别中都优于 Llama 3。
要了解更多关于 Llama 3.1的功能和能力，请访问 meta 的 Llama 3.1模型卡和亚马逊云科技文档中的 Llama 模型。
Amazon Bedrock
扫码了解更多
您可以利用 Llama 3.1的负责任 AI 功能，结合 Amazon Bedrock 的数据治理和模型评估功能，自信地构建安全可靠的生成式 AI 应用程序。
Guardrails for Amazon Bedrock - 通过针对特定用例创建具有不同配置的多个防护措施，您可以使用防护措施通过实施定制于您的用例和负责任 AI 政策的保护措施，来促进用户与您的生成式 AI 应用程序之间的安全交互。使用 Amazon Bedrock Guardrails ，您可以持续监控和分析可能违反客户定义的政策的用户输入和模型响应，检测模型响应中不基于企业数据或与用户查询无关的虚构内容，并跨不同模型（包括自定义和第三方模型）进行评估。如果需要开始使用，请访问亚马逊云科技文档中的创建防护措施。
Amazon Bedrock 上的模型评估 - 您可以使用自动评估或人工评估，通过几个步骤评估、比较并为您的用例选择最佳 Llama 模型。使用 Amazon Bedrock 上的模型评估，您可以选择使用准确性、鲁棒性和有害性等预定义指标进行自动评估。或者，您可以选择针对相关性、风格和与品牌语音的一致性等主观或自定义指标的人工评估工作流程。模型评估提供内置的精选数据集，或者您可以引入自己的数据集。要开始使用，请访问亚马逊云科技文档中的开始使用模型评估。
广告
编辑推荐
最新资讯
-
电器件的外壳防护等级IP解读
2024-09-07 13:16
-
测试储能BMS：高效模拟电芯的多通道解决方
2024-09-07 13:14
-
行业标准《汽车智能座舱计算芯片技术要求及
2024-09-07 13:12
-
GREGORY油耗仪，汽车燃油经济性测试好选择
2024-09-07 13:07
-
标准立项||让电动汽车充电“冷静”加速的背
2024-09-07 13:03
广告
广告
