两款顶尖大语言模型Claude2.1和Llama2在Amazon Bedrock正式可用

在亚马逊云科技2023 re:Invent美国拉斯维加斯现场，亚马逊云科技数据和人工智能副总裁Swami Sivasubramanian宣布了众多在生成式AI领域的发布和创新，其中就包括Anthropic Claude 2.1和Meta Llama 2 70B两款大语言模型已在Amazon Bedrock正式可用。

亚马逊云科技数据和人工智能副总裁Swami Sivasubramanian

Amazon Bedrock是亚马逊云科技于今年4月发布的一项全面托管的服务，通过它，企业用户可以通过API等方式轻松访问包括亚马逊云科技自研的Titan（Amazon Titan）系列大语言模型和AI21 Labs、Anthropic、Cohere、Meta、Stability AI等众多主流第三方大语言模型。

新增两大第三方主流大语言模型可用

在生成式AI领域，Anthropic被称为OpenAI的最强竞争对手，旗下旗舰大语言模型产品Claude有着不凡实力，而Anthropic与亚马逊有着紧密合作。

今年9月，亚马逊宣布与Anthropic展开战略合作，双方的合作包括亚马逊向Anthropic投资40亿美元并持有其部分股权；Anthropic长期承诺将通过Amazon Bedrock向全球亚马逊云科技客户提供其未来基础模型的访问权；以及亚马逊的开发人员和工程师可以通过Amazon Bedrock使用Anthropic大语言模型构建产品，以便将生成式AI能力融入到他们的工作中等等。

此次，在Amazon Bedrock上正式可用的Anthropic Claude 2.1提供了长达200,000个token的上下文窗口，并且提高了长文档的准确性。客户可以处理文本密集型文档，例如财务报表和内部数据集。Claude 2.1能够总结和对比文档、进行问答等。Anthropic报告称，与此前的大语言模型相比，Claude 2.1在开放式对话中的错误陈述减少了50%，错误陈述率减少了一半。

另一个在Amazon Bedrock上新增可用的是Meta Llama 2 70B大语言模型。这意味着现在，除了之前发布的Llama 2 130亿参数大语言模型之外，Llama 2 700亿参数大语言模型也已在Amazon Bedrock上提供。

Llama 2是Meta的下一代大语言模型。据悉，Llama 2 的训练数据比Llama 1多40%，上下文长度是Llama 1的两倍。Llama 2 Chat建立在预训练的Llama大语言模型之上，通过指令数据集和超过100万条人工注释进行调优，针对对话场景进行了优化。这些大语言模型在多个外部基准测试中的表现卓越，包括推理、编码、熟练程度和知识测试，并在Amazon Bedrock上提供了极高的性能价格组合。

自有Amazon Titan大语言模型发布多项新能力

同时，亚马逊云科技自有Titan（Amazon Titan）大语言模型在2023 re:Invent上也推出了多项新大语言模型能力。包括Amazon Titan Multimodal Embeddings、Amazon Titan Text Lite、Amazon Titan Text Express、Amazon Titan Image Generator。

其中，Amazon Titan Image Generator这一模型可以理解复杂的提示词并生成相关图像，可帮助广告、电子商务、媒体和娱乐等行业的客户通过使用自然语言提示生成高质量、逼真的图像或增强现有图像，以便以低成本快速构思和大量迭代图像。

Amazon Titan Multimodal Embeddings模型可提供多模态搜索和推荐体验，通过它，用户可以使用短语、图像或图像和文本的组合来搜索图像，例如，可以输入“我要和这张照片类似的图像，但天空是晴朗的”等这种既包含图片也有文字的描述方式来搜索。

现在，借助Amazon Bedrock，企业客户可以利用的最新版本的大语言模型包括Amazon Titan的5款大语言模型、新推出的Anthropic Claude 2.1和Meta Llama 2 70B以及此前推出的Stability AI Stable Diffusion XL 1.0、Meta Llama 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed大语言模型等。

另外，值得一提的是，对于企业而言，能用的大语言模型如此之多，那么到底哪一个或者哪些组合才是最适配用户需求的呢？

为了帮助企业客户在纷繁的大语言模型中选出最适合自己的那一个，Amazon Bedrock还推出了“模型评估功能”，可帮助企业客户使用自动或人工评估来评估、比较和选择适合其特定应用场景的最佳模型。目前该功能已推出预览版。

同时，为了进一步方便企业客户生成、部署自己的大语言模型应用产品，“Agents for Amazon Bedrock（Amazon Bedrock代理功能）”也正式可用。

Agents for Amazon Bedrock的目的就是为了进一步降低企业客户使用客户Amazon Bedrock来构建自己的生成式AI应用程序的门槛。通过它，企业用户可以简单的设置就能加速生成式AI应用程序的开发。

Swami Sivasubramanian表示：“生成式AI有望成为我们这个时代最具变革性的技术。客户积极应用生成式AI创造新机遇、应对业务挑战，这给我们带来了启发。当客户将生成式AI融入其业务时，他们会利用Amazon Bedrock以全托管的方式获取领先大语言模型、定制功能、代理功能以及企业级安全和隐私保障。有了更多触手可及的工具，客户可以使用Amazon Bedrock充分发挥生成式AI的潜力，创新用户体验、重塑业务并加速生成式AI之旅。”