Amazon Bedrock 中的 Meta Llama

使用 Llama 构建人工智能的未来
开始使用 Amazon Bedrock 中的 Llama

Llama 3.1 的介绍

Llama 3.1 在广泛的行业基准测试中展示了最先进的性能，并提供新功能，包括 128K 上下文长度、八种语言支持的改进推理以及 Llama 3.1 405B（最大的公开可用的基础模型）。

Llama 3.1 405B 是最大的开放式 LLM，专为开发人员、研究人员和企业而设计，用于构建、实验和负责任地扩展生成式人工智能创意。Llama 3.1 405B 树立了人工智能新标准，是企业级应用程序、研发、合成数据生成和模型蒸馏的理想之选。该模型擅长常识、长篇文本生成、机器翻译、增强上下文理解、高级推理和决策，能更好地处理歧义和不确定性、提高创造力和多样性、可操纵性、数学、工具使用、多语言翻译和编码。

Llama 3.1 70B 非常适合内容创作、对话式人工智能、语言理解、研究开发和企业应用程序。此模型擅长文本摘要和准确性、文本分类和细微差别、情感分析和细微差别推理、语言建模、对话系统、代码生成和遵循指令。

Llama 3.1 8B 是计算能力和资源有限、训练时间较短和边缘设备的理想选择。此模型擅长文本摘要、文本分类、情感分析和语言翻译。

优势

128K 上下文长度是其前身的四倍，使其能够捕获数据中更加细微的关系。
Llama 模型使用来自在线公共数据来源的 15 万亿个标记进行训练，以更好地理解语言的复杂性。
Llama 3.1 是多语言版的，支持八种语言，包括英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。
Amazon Bedrock 的托管 API 使得使用 Llama 模型比以往任何时候都更容易。各种规模的组织都可以获得 Llama 的能力，而不必担心底层基础设施。由于 Amazon Bedrock 是无服务器的，因此您无需管理任何基础设施，并且可以使用已经熟悉的 AWS 服务将 Llama 的生成式人工智能功能安全地集成和部署到您的应用程序中。这意味着您可以专注于自己最擅长的工作：构建 AI 应用程序。

认识 Llama

在过去的十年中，Meta 一直专注于将工具交到开发人员手中，并促进开发人员、研究人员和组织之间的协作和进步。Llama 模型有多种参数大小可供选择，使开发人员能够选择最适合其需求和推理预算的模型。Amazon Bedrock 中的 Llama 模型开辟了一个充满可能性的世界，因为开发人员无需担心可扩展性或管理基础设施。Amazon Bedrock 是开发人员开始使用 Llama 的一种非常简单的统包方式。

使用案例

Llama 模型擅长于处理语言细微差别、情境理解以及翻译和对话生成等复杂任务，可以轻松处理多步任务。Llama 模型擅长的一些应用场景示例包括文本摘要和准确性、文本分类、情感分析和细微差别推理、语言建模、对话系统、代码生成和遵循指令。

模型版本

Meta Llama 3.1 8B

计算能力和资源有限、训练时间较短和边缘设备的理想选择。

最大令牌数：12.8 万

语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。

支持微调：即将推出

支持的应用场景：文本摘要、文本分类、情感分析和语言翻译。

阅读博客

Meta Llama 3.1 70B

非常适合内容创作、对话式人工智能、语言理解、研究开发和企业应用程序。 

最大令牌数：12.8 万

语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。

支持微调：即将推出

支持的应用场景：文本摘要、文本分类、情感分析和语言翻译。

阅读博客

Meta Llama 3.1 405B

适合企业级应用程序、研发、合成数据生成和模型蒸馏。

最大令牌数：12.8 万

语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。

支持微调：即将推出

支持的应用场景：常识、长篇文本生成、机器翻译、增强上下文理解、高级推理和决策，能更好地处理歧义和不确定性、提高创造力和多样性、可操纵性、数学、工具使用、多语言翻译和编码。

阅读博客

Meta Llama 3 8B

计算能力和资源有限、训练时间较短和边缘设备的理想选择。

最大令牌数：8000

语言：英语

支持微调：否

支持的应用场景：文本摘要、文本分类、情感分析和语言翻译

阅读博客

Meta Llama 3 70B

非常适合内容创作、对话式人工智能、语言理解、研究开发和企业应用程序。 

最大令牌数：8000

语言：英语

支持微调：否

支持的应用场景：文本摘要和准确性、文本分类和细微差别、情感分析和细微差别推理、语言建模、对话系统、代码生成和遵循指令。

阅读博客

Meta Llama 2 13B

参数规模为 130 亿的微调模型。适用于规模较小的任务，例如文本分类、情绪分析和语言翻译。

最大令牌数：4 千

语言：英语

支持微调：是

支持的应用场景：助理式聊天

阅读博客

Meta Llama 2 70B

参数规模为 700 亿的微调模型。适用于规模较大的任务，例如语言建模、文本生成和对话系统。

最大令牌数：4 千

语言：英语

支持微调：是

支持的应用场景：助理式聊天

阅读博客

Nomura 在 Amazon Bedrock 中使用 Meta 的 Llama 模型来普及生成式人工智能

 

Nomura 执行董事兼企业架构师 Aniruddh Singh 概述了该金融机构使用 Amazon Bedrock 和 Meta 的 Llama 模型在全公司范围内实现生成式人工智能大众化的历程。Amazon Bedrock 为 Llama 等领先基础模型提供关键访问权限，从而实现无缝集成。Llama 为 Nomura 提供关键优势，包括更快的创新、透明度、偏差防护机制以及在文本摘要、代码生成、日志分析和文档处理方面的强大性能。 

TaskUs 在 Amazon Bedrock 中使用 Meta 的 Llama 模型彻底改变了客户体验

TaskUs 是为世界上最具创新性的公司提供外包数字服务和下一代客户体验的领先提供商，它帮助其客户展示、保护和发展他们的品牌。其创新的 TaskGPT 平台由 Amazon Bedrock 和 Meta 的 Llama 模型提供支持，从而使团队成员能够提供卓越的服务。TaskUs 在 TaskGPT 上构建工具，利用 Amazon Bedrock 和 Llama 进行经济高效的释义、内容生成、理解和复杂的任务处理。