The Next Wave:Explore the Strategy on Generative AI
如果无法正常显示,请先停止浏览器的去广告插件。
1. The Next Wave:
Explore the Strategy on Generative AI
曹志斌 | 亚马逊云科技全球生成式AI产品营销总监
2.
3. 针对营销运营场景,基础模型自身有一定局限性
需要告知业务需要
缺乏新的数据
需要引导回答
最终审核标准不明确
4. 用户期待生成式 AI 能够给出高质量答案
张先生
我想购买汽车保险
早上好, 张先生,很高兴能为你办理汽车保险。 我这里有你的汽车详细信息。
你开的是 2021 年宝马 X3,
住在美国佛罗里达州 Anytown 的 123 Main Street 。
这些信息正确吗?
以下是为你找到的报价:
ABC 保险公司:每月 178 美元
XYZ 保险公司:每月 198 美元
你想了解任何一个方案的更多细节吗?
5. 简单的对话背后蕴藏着复杂的提示工程
用户输入
提示工程
使用提示词模板、结构化数据源的上下文和语义上下文
你是 H o r i z o n G u a r d 保险市场的对话代理。回答问题时
要有帮助、公正和无偏见。请人类确认你的回答。
“我想购买汽车保险。”
这位张先生住在美国佛罗里达州 A n y t o w n 的1 2 3
M a i n S t .,拥有一辆2021年宝 马X3。家庭成员包括他自己
和妻子。
汽车保险是最常用的个人保险类型之一。大多数州要求你
在驾驶时必须购买某种保险。
参考资料
https://www.naic.org/documents/consumer_auto-
insurance.htm
[…]
我想购买汽车保险。
模型介绍
情景背景
从 RAG 获取的语义上下文
用户的提示词/问题
6. 什么是生成式 AI?
这安全吗?
我需要成为一名及时工程师吗?
从哪里开始?
如何选择机型?
这对我的企业意味着什么?
我们应该尝试哪些模型?
什么是大型语言模型?
什么是基础模型?
什么是微调?
7. 如何确定项目的优先次序?
怎样才能让它成为现实?
如何提高效率?
我应该使用哪种定制方法?
如何扩大规模?
我应该训练自己的模型吗?
我应该使用哪些型号?
如何管理风险?
我们怎样才能走得更快?
8. 生成式 AI 创造巨大的商业价值
创造与客户和员工互动的创
新和吸引人的新方式
彻底提高所有业务线的生产力
从所有您的企业信息,以便 创建新的内容和创意,包括
更快、更好地 ,更好的决策 对话、故事、图片、视频和
音乐
9. Booking.com 使用 Amazon Bedrock
帮助客户体验全新的旅行世界
寻找合适的行程或目的地始终是一个挑战,作为一家以技术为中心的企
业, 我们正在寻找利用生成式 AI 来改进对客户的建议、消除摩擦并为客
户提供量身定制的预订体验的方法。我们对 Amazon Bedrock 及其生成式
AI 功能感到兴奋,它让我们能够根据松散参数返回客户尚未考虑过的新颖
建议。Amazon Bedrock 还允许我们选择正确的语言模型,并使用
Booking.com 的数据对其进行微调,以提供定制且具有相关性的目的地与
住宿建议。通过使用 Amazon Bedrock 微调语言模型,我们将客户与他们
梦想的目的地联系起来,使 Booking.com 成为获取旅行灵感的首选平台。
Thomas Davey
Booking.com 首席数据官
https://aws.amazon.com/solutions/case-studies/booking-case-study/
9
10. LexisNexis 借助 Amazon Bedrock 和 Anthropic 实现
Lexis+ 人工智能平台提高法律工作效率
我们正在与 亚马逊云科技 和 Anthropic 合作,在 Amazon Bedrock 上托管
我们自定义的、经过微调的 Anthropic Claude 2 模型,以支持我们的战
略,即大规模快速提供生成式 AI 解决方案,并在我们所做的一切中嵌入尖
端加密、数据隐私和安全人工智能技术。我们全新的 Lexis+ AI 平台技术具
有对话式搜索、富有洞察力的总结和智能法律起草功能,能够帮助律师提
高效率、有效性和工作效率。
Jeff Reihl
LexisNexis Legal & Professional 执行副总裁兼首席技术官
https://www.youtube.com/watch?v=4uMetzdtOvY
10
11. 个性化见解
帮助用户做出
明智的财务决策
12. Thomson Reuters 利用 Amazon Bedrock
实现 AI 民主化并推动创新
我们建立 Open Arena 旨在为我们的同事提供一种安全、透明的方式
来了解这一全新的大规模技术变革,以及他们可以如何用它来解决客
户的挑战。借助亚马逊云科技,我们现在可以比以前更广泛、更高效
地高效利用我们世界一流的内容和专业知识。之所以选择 Amazon
Bedrock,是因为它可以帮助我们将内容与各种模型无缝集成在一
起。尤其是当考虑到这个领域发展的速度有多快时,具备使用各种模
型的能力就会成为我们的关键驱动力 。
Joel Hron
AI 与 Thomson Reuters 实验室负责人
https://aws.amazon.com/solutions/case-studies/thomson-reuters-bedrock-case-study/
12
13. 在亚马逊的创新
顾客评价
mazon.com 的
Rufus
购物专家
Amazon Pharmacy
更快的处方和更帮助的支持
13
14. 14
15. Embed video:
https://www.yo
utube.com/watc
h?v=g830h05H
16. 生成式AI创新应用
通用
生成式 AI
了解您业务和客户的
生成式 AI
17. 战略
明确业务场景适应性
设定全面数据战略
重视实现的方法和工具
18. 战略
明确业务场景适应性
19. “不会有一个生成式 AI 基础模型能适用
所有业务场景”
20. 适用性
我们是否有人能有效
地开展这项工作?
能否用一种算法来代替?
AI/ML 的作用?
我们能为这个项目腾
出足够的资金吗?
我们怎样才能把投资
赚回来?
团队
可行性
时间表
预算
风险
投资回报率
数据
何时需要?
这是一个为期 1 个月的项
目还是一个为期 6 个月的
项目?
利害攸关的是什么?合规
性?隐私?安全性?
我们是否有足够的数据
来满足这个用例?
21. 选择基础模型的几个考虑方向
模型的大小和能力
是否支持灵活微调
预训练数据的知识截止
时间 推理性能和延迟表现
可访问性和总体成本开支 模型相关的道德和责任
问题
22. 战略
明确业务场景适应性
设定全面数据战略
23. “如果大家使用同一个基础模型,您的
企业数据能带来差异化”
24. 搜索
Flat screen TVs
75” LED 4k Smart TV
索引优化存储
2,722
顾客评论
键值数据库
现代应用程序要求专门
构建的数据存储
$579.99
Save $240
Add to Cart
购物车
关系型数据库
Our experts recommend
推荐
图数据库
25. 生成式 AI
应用程序
26. 生成式 AI 应用程序
数据基础
27. 为您的数据基础架构提供全面的服务
存储 & 查询
DATA
SOURCES
IOT / DEVICES
APP / LOGS
3RD PARTY DATA
FOR APPLICATIONS
Amazon Aurora
Amazon DynamoDB
Amazon Kinesis
Amazon MSK
行用 & 应用
FOR ANALYTICS & ML
Data Warehouse
MACHINE LEARNING
Amazon SageMaker
PEOPLE
Amazon Redshift
GENERATIVE AI
Data Lake
Amazon S3
Big Data
Amazon EMR
Amazon Lake Formation
Amazon Bedrock
BUSINESS INTELLIGENCE
Amazon QuickSight
Amazon DataZone
APPS
DEVICES
28. 战略
明确业务场景适应性
设定全面数据战略
重视实现的方法和工具
29. “正确的工具简化基础模型的调用和管理,
加速构建生成式 AI 应用”
30. 通过及时扩充专业知识
企业知识语料库
基础模式不变
让生成式 AI 与
协同工作
针对特定任务的专业知识
标注示例数量少
更改基础模型的副本
您所在领域的通用知识和专业知识
无标签、非结构化的企业数据
更改基础模型的副本
31. 威 胁
需要将法律和监管
要求放在重要位置
需要消除
偏见
大模型可能
产生幻觉
必须确保问责制与
透明度
需要考虑隐私和
数据保护
必须保护知
识产权
必须对可能滥用和生成有害
内容进行监管
32. 生成式 AI 技术栈
33. 生成式 AI 技术栈
GPUs
UltraClusters
Trainium
EFA
Inferentia
SageMaker
EC2 Capacity Blocks
Nitro
Neuron
34. 获取最新和公开的调优
Amazon
大规模构建、训练和部署 ML 模型,
包括调优模型
从零开始创建调优
自定义调优
运行推理
实施 FMOps 和治理
35. 芯片级创新
Amazon
Amazon
35
36. 生成式 AI 技术栈
Amazon Bedrock
Guardrails
Agents
Studio
Customization Capabilities
Custom Model Import
37. 通过单一应用程序接口,选择领先的基础模型
Amazon Bedrock 模型定制
利用基础模型 (FM) 构建和扩展 检索增强生成
生成式 AI 应用的简单方法 执行多步骤任务的代理
安保、隐私和安全
38. Amazon
广泛的机型选择
根据上下文作答、 文本摘要、生成、 总结、复杂推理、 文本生成、搜索、 问答和阅读 文本摘要、问答、 高质量图像和
总结、转述 问答、搜索、图像 写作、编码 分类 理解 文本分类、文本补 艺术
生成
全、代码生成
39. Guardrails for
Amazon Bedrock
根据您的应用要求和负责任的人工智能
政策实施定制的保障措施
支持 Amazon Bedrock 的多个基础模型和代理
根据负责任的人工智能策略,配置有害内容过滤功能
用简短的自然语言描述来定义和禁止被拒绝的主题
编辑或屏蔽 PII 等敏感信息,以及自定义 Regex。
40. 生成式 AI 技术栈
Amazon Q
Business
Amazon Q
Developer
Amazon Q in
QuickSight
Amazon Q in
Connect
41. Amazon Q 统一数据源、存储库和企业系统
利用生成式 AI 助理重新定 在您工作的地方使用
义工作 提供行业领先的帮助
42. 利用
重塑工作方式
企业用户
Amazon Q
Business
Amazon Q in
QuickSight
开发人员 专业用户
Amazon Q
Developer Amazon Q in
Connect
代理助理
知识搜索 了解数据 计划申请
概述 建立和完善视觉效果 代码生成
内容创作 构建计算 单元测试
摘录 执行摘要 安全扫描
研究与分析 创建数据故事 代码补救
代码迁移
故障排除
开发人员知识
Amazon Q in
Amazon Supply Chain
供应链
43. 通过对 70% 的呼叫实现自动化,
每月可将呼叫中心的成本降低 2000万-4000万美元
© yyyy, Amazon Web Services, Inc. or its affiliates. All rights reserved.
44. 硬核
最新技术发布+行业趋势解读
给力
新技术第一时间上手体验
意思
Jam 个人战+线上“密室逃脱”
团队战
45. 理解
•
•
体验
•
全栈生成式 AI
生成式 AI 时代开发新范式 Demo
•
赋能
Bedrock 体验区
•
全新发布 Jam 挑战区
「AI Ready」生成式 AI 课程全新上
线
•
Certification Special Offer
Plan Create Operate Improve
Amazon Q
Business Amazon Q
Developer CodeCatalyst Bedrock
无限构建,成为生成式 AI 原生开发者!
46. 战略
明确业务场景适应性
设定全面数据战略
重视实现的方法和工具
47.
48.