在Amazon Bedrock上构建以生成AI为驱动的Salesforce应用程序
作者 Daryl Martis Darvish Shadravan Rachna Chadha DK Rai Ifetayo Stewart Ravi Bhattiprolu 和 Mike Patterson日期:2024年7月29日类别:Amazon Bedrock,人工智能 ,生成AI
关键要点
在本篇文章中,我们将探讨如何通过Amazon Bedrock与Salesforce Data Cloud结合,构建强大的生成AI驱动应用程序。本文还将介绍Amazon Bedrock的核心功能、Salesforce Data Cloud的集成方法以及如何使用Amazon Bedrock中的LLM大型语言模型提升Salesforce应用程序的智能化。
这篇文章是讨论Salesforce Data Cloud与Amazon机器学习和生成AI服务整合的系列文章中的第四篇。
在第一部分和第二部分中,我们展示了如何通过Salesforce Data Cloud与Einstein Studio的集成,结合SageMaker的工具,安全访问Salesforce数据,并构建、训练和部署模型。在第三部分中,我们演示了商业分析师和公民数据科学家如何在Amazon SageMaker Canvas中无代码创建机器学习ML模型并将其部署与Salesforce Einstein Studio集成,以构建强大的业务应用。
在本篇文章中,我们展示了Salesforce与亚马逊网络服务AWS之间的原生集成,如何将您在AWS账户中的大型语言模型BYO LLM引入Salesforce,以驱动生成AI应用。在Salesforce与Amazon Bedrock之间的请求和响应通过Einstein Trust Layer,促进了Salesforce系统内负责任的AI使用。
我们将通过在Amazon Bedrock上使用Anthropic的Claude模型,展示BYO LLM集成,来总结账户记录页面上的开放服务案例和机会,如下图所示。
合作伙伴引述
“我们将与AWS的强大合作进一步扩展,通过与Amazon Bedrock的BYO LLM集成,使我们的客户拥有更多模型选择,并允许他们创建根据特定业务需求定制的AI驱动功能和助手。我们以客户数据为基础的开放和灵活的AI环境,使我们能够成为CRM领域AI驱动解决方案的领导者。”Kaushal Kurapati Salesforce AI产品高级副总裁
Amazon Bedrock
Amazon Bedrock是一项完全管理的服务,通过单一API提供来自AI公司如AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI和Amazon的高性能基础模型FMs。它提供构建生成AI应用程序所需的一整套功能,并确保安全、隐私和负责任的AI使用。借助Amazon Bedrock,您可以快速实验和评估最适合您用例的顶级FMs,使用微调和检索增强生成RAG等技术私下定制您的数据,并构建执行企业系统和数据源任务的代理。由于Amazon Bedrock是无服务器的,您无需管理基础设施,便可安全地将生成AI能力集成并部署到您已经熟悉的AWS服务中。
Salesforce Data Cloud与Einstein模型构建器
Salesforce Data Cloud是一个数据平台,整合您公司的数据,使每个团队都能获得客户的360度视图,以推动自动化和分析,个性化互动,并支持可信的AI。数据云通过将大量不相关的数据转化为一个简单易懂的单一可信模型,创建了一个整体的客户视图。通过将数据进行统一处理,客户能够利用数据构建预测和生成AI驱动的业务流程,涵盖销售、支持和市场营销等领域。

通过Einstein模型构建器,客户可以利用Salesforce低代码模型构建器体验,构建自己的模型或将自定义模型集成到Salesforce平台。Einstein模型构建器的BYO LLM体验,提供注册来自外部环境如Amazon Bedrock和Salesforce Data Cloud的自定义生成AI模型的能力。
一旦自定义的Amazon Bedrock模型注册到Einstein模型构建器中,模型将通过Einstein Trust Layer连接,该层提供强大的功能和安全措施,以保护数据的隐私和安全,提高AI结果的安全性和准确性,并促进Salesforce中的AI负责任使用。注册的模型随后可以在Prompt Builder中使用,这是一个新发布的低代码提示工程工具,允许Salesforce管理员构建、测试和微调可以在Salesforce平台中使用的可信AI提示。这些提示可以与Salesforce功能如Flows、可调用操作和Apex集成。
解决方案概述
借助Salesforce Einstein模型构建器的BYO LLM功能,您可以调用您AWS账户中的Amazon Bedrock模型。撰写时,Salesforce对Amazon Bedrock的BYO LLM支持Anthropic Claude 3模型。对于本篇文章,我们使用Anthropic Claude 3的Sonnet模型。有关Claude 3推理的更多信息,请参考Anthropic Claude模型的Amazon Bedrock文档。
对于您的实施,您可以使用您选择的模型。请参阅在Einstein 1 Studio中引入自己的大型语言模型,以了解Salesforce Einstein模型构建器支持的模型。
下图展示了如何将来自您AWS账户的LLM集成到Salesforce Prompt Builder的高层架构。
在这篇文章中,我们显示了如何构建以生成AI驱动的Salesforce应用程序,涉及的高层步骤如下:
授予Amazon Bedrock调用模型的权限给AWS身份与访问管理IAM用户。在Salesforce Einstein模型构建器中注册Amazon Bedrock模型。使用Lightning App Builder将提示模板与字段集成。前置条件
在部署此解决方案之前,请确保满足以下前置条件:
访问Salesforce Data Cloud并符合使用BYO LLM的要求。设置Amazon Bedrock。如果这是您首次访问Amazon Bedrock上的Anthropic Claude模型,您需要请求访问权限。您需要有足够的权限以通过控制台申请模型权限。要请求模型访问,请登录到Amazon Bedrock控制台并在左侧导航栏底部选择模型访问。解决方案步骤
要在Amazon Bedrock上构建以生成AI驱动的Salesforce应用程序,请实现以下步骤。
授予Amazon Bedrock调用模型权限给IAM用户
Salesforce Einstein Studio需要一个访问密钥和密钥来访问Amazon Bedrock API。请按照说明设置AWS IAM用户和访问密钥。IAM用户必须拥有Amazon Bedrock调用模型的权限才能访问模型。完成以下步骤:
在IAM控制台,选择导航面板中的用户,在控制台的右侧选择添加权限和创建内联策略。在指定权限页面,在服务下拉菜单中选择Bedrock。迅猛兔加速器pc版在允许的操作下,输入“invoke”。在读取中选择InvokeModel。在资源下选择所有。选择下一步。在审阅和创建页面下,输入策略名称BedrockInvokeModelPolicy,选择创建策略。在Einstein模型构建器中注册Amazon Bedrock模型
在Salesforce Data Cloud控制台的Einstein Studio标签下,选择添加基础模型。选择连接到Amazon Bedrock。在端点信息中,输入端点名称、您的AWS账户访问密钥和秘密密钥。输入区域和模型信息。选择连接。现在,创建您在前面步骤中创建的模型端点的配置。提供推理参数,如温度,以设置LLM的确定性因子。输入一个示例提示以验证响应。接下来,您可以保存此新的模型配置。输入保存LLM模型的名称,选择创建模型。模型创建成功后,选择关闭并继续创建提示模板。选择模型名称以打开模型配置。选择创建提示模板以启动提示生成器。选择字段生成作为提示模板类型,设置模板名称,将对象设置为账户,并将对象字段设置为PB Case and Oppty Summary。这将把模板与账户记录对象中的自定义字段关联起来,以总结案例。
在此演示中,创建了一个丰富文本字段PB Case and Oppty Summary并根据将字段生成提示模板添加到Lightning记录页面的说明将其添加到Salesforce的账户页面布局中。
提供提示和输入变量或对象进行数据归属,并选择模型。有关更多信息,请参阅提示生成器。使用Lightning App Builder将提示模板与字段集成
在Salesforce控制台中,使用搜索框找到Lightning App Builder。构建或编辑现有页面,以将提示模板与字段集成,如下图所示。有关详细说明,请参考将字段生成提示模板添加到Lightning记录页面。导航到账户页面,单击PB Case and Oppty Summary,启用聊天完成以启动Einstein生成AI助手并总结账户案例数据。清理
请完成以下步骤以清理您的资源。
删除IAM用户[在Einstein Studio中删除基础模型](https//helpsalesforcecom/s/articleViewid=sfc360aaifoundationmodelseditdelete
AWS
AWSLC FIPS 30 首个将 MLKEM 纳入 FIPS 1403 验证的密码库关键要点AWSLC FIPS 30 获得 NIST 验证,首次支持基于晶格的密钥封装机制MLKEM。MLKEM 为...
在AWS上提升你的MySQL数据库性能 数据库博客
在 AWS 上提升你的 MySQL 数据库性能关键要点云托管数据库可利用灵活性、可扩展性和架构的便利性。Amazon 的 MySQL 服务始于 2009 年,经过多年创新,现在支持数十万客户。AWS ...