新版 Amazon Titan Text Premier 模型助力 RAG 和基于代理的生成式 AI 应用

重要要点

Amazon Titan Text Premier 现已在 Amazon Bedrock 中可用,这是一款为企业应用优化的大型语言模型LLM。该模型专为检索增强生成RAG和基于代理的应用而设计,可以用于问答、摘要和多步骤任务等场景。用户可根据自有数据微调模型,以便更好地满足特定业务需求。Amazon Titan Text Premier 融入了负责任的人工智能实践,并提供强大的性能,支持在各种基准测试中表现优异。

今天,我们很高兴地介绍 Amazon Titan 家族的新成员:Amazon Titan Text Premier,它现在在 Amazon Bedrock 中可用。

继 Amazon Titan Text Lite 和 Titan Text Express 之后,Titan Text Premier 是 Amazon Titan 系列中的最新大型语言模型LLM,扩展了用户在 Amazon Bedrock 中的模型选择。用户现在可以在 Bedrock 中选择以下 Titan Text 模型:

Titan Text Premier 是专为文本基础的企业应用设计的先进模型,最大上下文长度为 32K tokens,特别适用于构建检索增强生成RAG和基于代理的应用,并与 知识库 和 Amazon Bedrock 的代理 进行整合。Titan Text Premier 在多语言文本数据上进行了预训练,但最佳适用于英语任务。用户还可以通过 自定义微调 Titan Text Premier,使其更符合特定领域、组织、品牌风格和用例。接下来,我将深入探讨该模型的亮点和性能。

Titan Text Express 适合多种任务,例如开放式文本生成和对话聊天,其最大上下文长度为 8K tokens。

Titan Text Lite 专注于速度,具有高度可自定义性,适合于将其微调用于文章摘要和文案撰写,其最大上下文长度为 4K tokens。

Titan Text Premier 模型亮点

Titan Text Premier 经过优化,旨在支持高质量的 RAG 和基于代理的应用,并通过微调实现自定义,并融入了负责任的人工智能实践。

为 RAG 和基于代理的应用优化

Titan Text Premier 专为 RAG 和基于代理的应用进行优化,以响应客户的反馈,客户将 RAG 认为构建生成式 AI 应用的关键组成部分。模型的训练数据包含了摘要、问答和对话聊天等任务的范例,并经过优化以便于与 Amazon Bedrock 的知识库和代理进行整合。这些优化包括对模型进行训练,使其能够处理这些功能的特定提示格式。

通过 Amazon Bedrock 的知识库实现高质量的 RAG:用户可以安全地将 Amazon Bedrock 的基础模型FMs连接到公司的数据以实现 RAG。用户现在可以选择 Titan Text Premier 搭配知识库来实现基于公司专有数据的问答和摘要任务。

通过 Amazon Bedrock 的代理自动化任务:用户还可以使用 Titan Text Premier 搭配 Amazon Bedrock 的代理来创建自定义代理,这些代理可以在不同的公司系统和数据来源中执行多步骤任务。透过代理,用户可以为内部或外部客户自动化任务,比如管理零售订单或处理保险索赔。

我们已经看到客户利用 Titan Text Premier 实现互动 AI 助手,其中能够从非结构化数据如电子邮件中创建摘要。他们还在探索该模型提取公司系统和数据来源中相关信息,以创建更具意义的产品摘要。

这里有一段我同事 Brooke Jamieson 创建的演示视频,展示了如何利用 Titan Text Premier 为您的业务服务。

定制微调 Amazon Titan Text Premier 预览

用户可以在 Amazon Bedrock 中使用自有数据微调 Titan Text Premier,借此提高模型准确性,提供特定任务的标记训练数据集。定制化 Titan Text Premier 有助于进一步专精模型,创建反映公司品牌、风格、声音和服务的独特用户体验。

以负责任的方式构建

Amazon Titan Text Premier 融入了安全、可靠和值得信赖的实践。该模型的 AWS AI 服务卡 详细记录了模型在安全性、公平性、真实性和稳健性等关键负责任 AI 标准下的表现。该模型还集成了 Amazon Bedrock 的 Guardrails,用于实施针对应用需求和负责任 AI 政策的额外保障。 Amazon 保护用户 负责任地使用 Amazon Titan 模型,针对一般可用 Amazon Titan 模型或其输出侵犯第三方版权的索赔。

Amazon Titan Text Premier 模型性能

Titan Text Premier 设计目的是为了提供相关企业的广泛智能和实用性。下表显示了在评估关键能力如指令遵循、阅读理解和多步骤推理时与价格可比模型的评估结果。这些多元且挑战性基准测试的出色表现突显了 Titan Text Premier 可以应对各种企业应用中的多样化需求,提供极佳的性价比。所有基准测试中,得分越高,表示性能越好。

能力基准描述AmazonGoogleOpenAITitan Text PremierGemini Pro 10GPT35一般MMLU (文献)57 种学科的问题表现704 (5shot)718 (5shot)700 (5shot)指令遵循IFEval (文献)大型语言模型的指令遵循评估646 (0shot)未出版未出版阅读理解RACEH (文献)大规模阅读理解897 (5shot)未出版未出版推理HellaSwag (文献)常识推理926 (10shot)847 (10shot)855 (10shot)DROP F1 分数 (文献)文本推理779 (3shot)741 (变量拍摄)641 (3shot)BIGBench Hard (文献)需要多步骤推理的挑战任务737 (3shot CoT)750 (3shot CoT)未出版ARCChallenge (文献)常识推理858 (5shot)未出版852 (25shot)

注:基准评估模型性能时使用了不同的 Fewshot 和 Zeroshot 提示。使用 Fewshot 提示,您为模型提供了一些具体范例例如 3shot、5shot,帮助模型学习如何解决特定任务。这显示了模型从例子学习的能力,称为上下文学习。而 Zeroshot 提示则评估模型在没有任何范例的情况下仅依赖之前的知识和一般语言理解来执行任务的能力。

开始使用 Amazon Titan Text Premier

要访问 Amazon Titan Text Premier,请导航至 Amazon Bedrock 控制台,在左下方选择 模型访问。在 模型访问 概述页面上,选择右上角的 管理模型访问 按钮,启用对 Amazon Titan Text Premier 的访问。

在 Bedrock 控制台使用 Amazon Titan Text Premier 时,请在左侧菜单下的 游乐场 中选择 文本 或 聊天,然后选择 选择模型,选择 Amazon 作为类别,并选择 Titan Text Premier 作为模型。要探索模型,您可以 加载范例。以下截图展示了展示模型连锁思维CoT和推理能力的范例。

通过选择 查看 API 请求,您可以获取如何使用 AWS 命令行界面 (AWS CLI) 调用该模型的代码范例。还可以使用 AWS SDK 访问 Amazon Bedrock 和可用模型。在以下示例中,我将使用 AWS SDK for Python (Boto3)。

Amazon Titan Text Premier 的实际运用

在此演示中,我要求 Amazon Titan Text Premier 总结 我之前的 AWS News Blog 文章,该文章宣布了 Amazon Titan 图片生成器及水印检测功能的可用性。

对于摘要任务,建议的提示模板如下:

以下是来自 {{文本类别}} 的文本:{{文本}}将 {{文本类别}} 摘要为 {{摘要长度}}。

我将此模板调整为我的示例并定义提示。为了准备,我将我的新闻博客帖子保存为文本文件并读入变量 post。

pythonprompt = 以下是来自 AWS News Blog 文章的文本:

s

将上述 AWS News Blog 文章总结为一段短文。 post

与以往的 Amazon Titan 文本模型类似,Amazon Titan Text Premier 支持 temperature 和 topP 推理参数,以控制回应的随机性和多样性,还有 maxTokenCount 和 stopSequences 用于控制回应的长度。

迅猛兔加速器电脑版

pythonimport boto3import json

bedrockruntime = boto3client(servicename=bedrockruntime)

body = jsondumps({ inputText prompt textGenerationConfig{ maxTokenCount256 stopSequences[] temperature0 topP09 }})

response = bedrockruntimeinvokemodel( body=body modelId=amazontitantextpremierv10 accept=application/json contentType=application/json)

responsebody = jsonloads(responseget(body)read())print(responsebodyget(results)[0]get(outputText))

这是回应结果:

Amazon Titan 图片生成器现在已在 Amazon Bedrock 中全面可用,为您提供了一个简便的方法来构建和扩展具有新图像生成和图像编辑能力的生成 AI 应用,包括即时自定义图像。Titan 图片生成器的水印检测功能现在也已在 Amazon Bedrock 控制台中全面可用。今天,我们还在 Amazon Bedrock 中推出了一个新的检测生成内容 API预览,帮助确认图像是否由 Titan 图片生成器生成。

如需不同编程语言的更多示例,请查看 Amazon Bedrock 用户指南中的代码示例部分。

更多资源

这里有一些额外的资源,您可能会觉得有帮助:

使用新推出的亚马逊 Titan Text Premier 模型,在亚马逊 Bedrock 上构建 R预期使用情境和更多信息 查看 AWS AI 服务卡 了解模型的预期使用情境、设计和部署链接,及性能最佳化的最佳实践。AWS 生成 AI CDK 构造 Amazon Titan Text Premier 受到 AWS 生成 AI CDK 构造 的支持,这是 AWS 云开发工具包 (AWS CDK) 的开源扩展,提供了 AWS CDK 的示例实现,以应对常见的生成 AI 模式。Amazon Titan 模型 如果您想了解更多关于 Amazon Titan 模型的信息,请查看以下视频。 Dr Sherry Marcus 介绍了 Amazon Titan 家族如何整合 Amazon 在 AI 和机器学习领域 25 年的创新经验。

现已推出

Amazon Titan Text Premier 目前在 AWS 美东维吉尼亚州北部地区可用,针对 Amazon Titan Text Premier 的自定义微调功能目前在 AWS 美东维吉尼亚州北部地区可用,并处于预览阶段。要查看未来更新,请查看 完整地区列表。如需了解 Amazon Titan 家族的更多信息,请访问 Amazon Titan 产品页面。有关定价详情,请查阅 Amazon Bedrock 定价页面。

今天,请在 Amazon Bedrock 控制台 使

用 Amazon Titan Text Premier,并向 AWS rePost for Amazon Bedrock 或您的 AWS 联系人反馈,参与生成 AI 建设者社区 [communityaws](https//communityaws/generativeai

四个迈向数字政府的步骤 云企业战略博客

实现数字政府的四个步骤关键要点政府在数字转型中面临的挑战与私营部门相似,但因受到限制而难以应对。汇总大型项目为较小的独立项目,可以降低风险和管理成本。政府采购流程需要更加灵活,以适应快速变化的技术需求...

订阅邮箱