re:Invent 云端历程：2023 亚马逊云科技 re:Invent 大会之初识Amazon Q

目录

• 一、简介
• 1. re:Invent
• 2. 历程回顾
• 二、2023 re:Invent大会看点
• 1.生成式AI（Amazon Q、Bedrock, SageMaker）
• 1.1 Amazon Q
• 1.2 Amazon Bedrock
• 1.3 Amazon SageMaker
• 2.重塑云计算（芯片，存储和无服务化）
• 2.1 Amazon Graviton4芯片
• 2.2 Amazon S3 Express One Zone存储
• 2.1 Amazon ElastiCache Serverless无服务化
• 三、生成式AI（Amazon Q）
• 1.产品能力
• 1.1 会话式问答功能
• 1.2 优化 Amazon实例
• 1.3 故障排查及错误处理
• 1.4 网络故障排除协助
• 1.5. IDE 集成
• 2.应用场景
• 2.1 AWS助手
• 2.2 业务助手
• 2.3 商业助手
• 2.4 联络助手
• 四、小结

---

一、简介

1. re:Invent

亚马逊云科技re:Invent全球大会是亚马逊云科技每年举办的一次盛大的全球性技术盛会。大会汇聚了来自世界各地的技术专家、开发者、企业领袖和行业领先者，共同探讨云计算、人工智能、物联网和其他前沿技术的最新发展和应用。大会通常会举办数百场技术讲座，为参与者提供了一个深入了解亚马逊云科技最新产品和服务的机会，同时也是一个与业界同行分享经验和交流想法的平台。通过re:Invent大会，参与者可以深入了解亚马逊云科技在云计算和技术创新领域的最新动态，探索未来的发展方向，为自己的业务和技术发展寻找灵感和机遇。

自2012年以来，全球市场占有率最高的亚马逊云科技每年都会举办的re:Invent全球大会，re:Invent全球大会俨然已成为全球云计算行业创新的风向标，每年亚马逊云科技大会都会宣布推出大量突破性的新技术新服务，有些甚至开创了全新的技术领域。

2. 历程回顾

2012年：发布了Amazon DynamoDB，开了云原生数据库十年创新的序幕; 发布了首个云原生数据仓库 Amazon Redshift，实现了并发扩展与稳定的查询性能。

2013年：发布了实时流式数据服务Amazon Kinesis，为移动互联网时代的流式数据实时分析处理奠定基础。

2014年：发布了云原生关系数据库Amazon Aurora，成为亚马逊云科技历史上用户数量增速最快的云服务；发布了首个Serverless函数计算服务Amazon Lambda，颠覆应用运营模式，免除运维烦恼，让开发者更专注于业务。

2015年：发布了首个按会话付费的商业智能（BI）服务Amazon QuickSight，强势解决大数据应用“最后一公里”问题；发布了首个硬件服务Amazon Snowball，海量数据可以快速安全的迁移上云。

2016年：发布了Serverless的交互式查询服务Amazon Athena和数据集成服务Amazon Glue，为云上数据湖解决方案迈出重要一步。

2017年：发布了Amazon Nitro系统，重构云计算的基础。发布了首个机器学习集成开发环境Amazon SageMaker，破除软硬件环境限制及资金门槛，释放数据科学家的生产力。

2018年：发布了Amazon Outposts，真正将云能力延伸到本地；发布了Amazon DeepRacer，一个人人都能玩转且趣味无穷的自动驾驶赛车，极大地降低机器学习门槛。

2019年：发布了基于Arm架构的自研云原生处理器Amazon Graviton2，开创了企业级应用大规模使用云端Arm架构服务的局面，同规格实例相较x86架构性价比提升可达40%；发布了首个全托管量子计算服务Amazon Braket，让企业通过熟悉的云计算模式轻松地开始体验量子计算。

2020年：发布了云上首个Mac实例Amazon EC2 Mac，首次实现在云上按需运行macOS工作负载；发布了Serverless数据库Amazon Aurora Serverless v2，实时自动容量伸缩，摆脱繁琐复杂的数据库容量预置管理。

2021年：发布了新一代基于Arm 的自研 CPU 处理器 Amazon Graviton3，与由 Graviton2 处理器支持的前一代 C6g 实例相比，可将计算密集型工作负载性能提高多达25%;推出了四个新的大数据分析无服务器选项，可以大幅缩减企业大数据分析旅程，让用户不再担心硬件资源问题。

2022年：发布了 Nitro v5，较前一代显著改善延迟30%，同时每瓦性能提高40%，PPS 提高60%;发布了基于Arm 的定制 Graviton3E系列芯片，相较前一系列对依赖天量指令的工作负载的性能提高35%。 发布了Amazon Lambda SnapStart 实现高达90%的冷启动延时，让用户几乎可以无感知的实现应用的扩展;发布了Amazon Open Search Serverless标志着所有亚马逊云科技提供的数据分析服务已全部实现了Serveress无服务器化。

二、2023 re:Invent大会看点

2023 re:Invent全球大会围绕底层基础设施、生成式人工智能（AI）推出了一系列新服务及功能，以创新性的技术帮助客户加速创新，包括重塑未来工作方式的新型生成式AI助手Amazon Q、Amazon Bedrock提供更多的模型选择和强大功能、Amazon SageMaker助力规模化开发应用模型等，帮助企业更轻松、更安全地构建和应用生成式AI。为了给生成式AI提供强大的数据支持，亚马逊云科技同时推出了功能强大的向量数据库选择，推出让跨数据存储的数据访问与分析更快速、更便捷的Zero-ETL集成特性等。

1.生成式AI（Amazon Q、Bedrock, SageMaker）

生成式AI在技术变革、重塑人们的行为方式方面拥有巨大潜力，能够帮助企业更轻松、安全地构建和应用生成式AI。亚马逊云科技生成式AI三层架构包括利用基础模型构建的应用程序、使用基础模型进行构建的工具和用于基础模型训练和推理的基础设施，每一层都在持续创新，帮助客户更轻松、更安全地构建和应用生成式AI。

1.1 Amazon Q

Amazon Q是一项新型生成式人工智能辅助服务，Amazon Q专注于工作场所，而不是面向消费者。Amazon Q可以根据客户的业务进行定制，为员工提供信息和建议，以简化任务、加速决策和解决问题，并帮助激发工作中的创造力和创新，例如总结文档、填写内部文件以及回答有关公司政策的问题。Amazon Q 可以进行自然对话，用户可以藉此了解 AWS 的功能并解决问题；Amazon Q 关键功能在于它可以利用客户引用的文档来为提供答案，这使得用户可以验证来自聊天机器人的信息。此外，Amazon Q 还可以自动为开发人员进行代码更改，从而减少手动工作量。

1.2 Amazon Bedrock

Amazon Bedrock 是一项完全托管的服务，使用单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等领先人工智能公司的高性能基础模型（FM），以及构建生成式人工智能应用程序所需的一系列广泛功能，在维护隐私和安全的同时简化开发。借助 Amazon Bedrock 的全面功能，您可以轻松尝试各种热门 FM，使用微调和检索增强生成（RAG）等技术利用您的数据对其进行私人定制，并创建可执行复杂业务任务（从预订旅行和处理保险索赔到制作广告活动和管理库存）的托管代理，所有这些都无需编写任何代码。由于 Amazon Bedrock 是无服务器的，因此您无需管理任何基础设施，并且可以使用已经熟悉的 AWS 服务将生成式人工智能功能安全地集成和部署到您的应用程序中。

产品优势：

• 领先的基础模型：Amazon Bedrock 提供易于使用的开发者体验，可与来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等领先人工智能公司的各种高性能 FM 合作。无论选择哪种模型，您都可以在操场上快速尝试各种 FM，并使用单个 API 进行推理，这样便可灵活使用来自不同提供商的 FM，并且只需最少的代码更改即可保持最新的模型版本。
• 轻松模型定制：无需编写任何代码，即可通过可视化界面使用自己的数据私下自定义 FM。只需选择存储在 Amazon Simple Storage Service（Amazon S3）中的训练和验证数据集，并在需要时调整超参数即可实现可能的最佳模型性能。
• 任务的完全托管代理：通过动态调用公司系统和 API，构建能够执行复杂业务任务的代理。Amazon Bedrock 的完全托管代理扩展了 FM 的推理能力，可以分解任务、创建编排计划并执行该计划。
• 可扩展的FM功能：借助 Amazon Bedrock 知识库，您可以安全地将 FM 连接到您的数据来源，以便在托管服务中增强检索，从而扩展 FM 本已强大的功能，使其更了解您的特定领域和组织。

模型选择：

• Claude: 通过符合宪法 AI 进行训练的 FM，可进行深思熟虑的对话、内容创作、复杂推理、创意写作和编码。
• Amazon Titan：系列 FM，用于文本和图像生成、摘要、分类、开放式问答、信息提取以及文本或图像搜索。
• Stable Diffusion: 图像生成模型可生成独特、通真且高质量的视觉对象、艺术品、徽标和设计。
• Llama 2: 经过微调的模型，非常适合对话用例和自然语言任务，例如问答和阅读理解。
• Command 利 Embed: 文本生成和表示模型，用于生成文本、摘要、搜索、聚类、分类和利用RAG。
• Jurassic: 专为企业构建的指令遵循 FM，可执行一系列任务，包括文本生成、问答、摘要等。

1.3 Amazon SageMaker

亚马逊SageMaker是一种完全托管的机器学习服务。借助 SageMaker，数据科学家和开发人员可以快速、轻松地构建和训练机器学习模型，然后直接将模型部署到生产就绪托管环境中。它提供了一个集成的 Jupyter 编写 Notebook 实例，供您轻松访问数据源以便进行探索和分析，因此您无需管理服务器。此外，它还可以提供常见的机器学习算法，这些算法经过了优化，可以在分布式环境中高效处理非常大的数据。借助对bring-your-own-algorithms和框架的本地支持，SageMaker提供灵活的分布式训练选项，可根据您的特定工作流程进行调整。

为了帮助企业高效地训练和部署大型语言模型，AWS在其亚马逊SageMaker人工智能和机器学习服务中推出了两种新产品：SageMaker HyperPod和SageMaker推理。与手动模型训练过程相比，HyperPod消除了为训练模型构建和优化机器学习基础设施所涉及的繁重任务，将训练时间减少了40%，而手动模型训练容易出现延迟、不必要的支出和其他复杂情况。SageMaker推理旨在帮助企业降低模型部署成本，减少模型响应的延迟。

产品优势：

• 通过多种工具让更多人能够利用 ML 进行创新，如面向数据科学家的 IDE 和面向业务分析师的无代码界面。
• 为机器学习访问、标记和处理大量结构化数据（表格数据）和非结构化数据（照片、视频、地理空间和音频）。
• 通过优化的基础设施将培训时间从几小时缩短到几分钟。使用专用工具将团队生产力提高多达 10 倍。
• 自动执行和标准化组织中的 MLOps 实践和治理，以支持透明度和可审核性。

应用场景：

• 业务分析师: 使用 SageMaker Canvas 的可视化界面进行 ML 预测。
• 数据科学家: 使用 SageMaker Studio 准备数据并构建、训练和部署模型。
• ML 工程师: 利用 SageMaker MLOps 大规模部署并管理模型。

2.重塑云计算（芯片，存储和无服务化）

2.1 Amazon Graviton4芯片

亚马逊云科技本次大会推出Amazon Graviton4和Amazon Trainium2自研芯片，为机器学习训练和生成式AI应用等广泛的工作负载提供更高性价比和能效。Graviton4是基于Arm架构的定制设计，Trainium2则是新款量子芯片。Graviton4和Trainium2将为亚马逊AWS的客户带来性价比和能效的提升，覆盖机器学习（ML）和人工智能（AI）方面的应用，同时为客户提供了更多的选择。

Graviton4比前代性能提升 30%，内核数增加 50%，内存带宽增加 75%，可以帮助 Amazon EC2 云服务的各类工作负载提供最佳性价比和能效。这款处理器还对所有高速物理硬件接口加密来提高安全性。Trainium2是一款量子芯片，号称错误率仅 0.1%，且能源效率是上一代的两倍。

产品优势：

• 专注于AI应用： Trainium2处理器的这些进步在生成式AI应用领域尤为重要，这一领域正在经历需求和创新的激增。
• 加强机器学习训练： AWS Trainium2旨在提供比首代Trainium（2020年12月推出）高出四倍的性能和两倍的能效。这使得Trainium2成为AI模型训练和推理的强大工具，满足日益增长的生成式AI在GPU上的需求。
• 内存优化实例： AWS Graviton4驱动的Amazon EC2 R8g实例，与前代R7g实例相比，提供了多达三倍的虚拟CPU（vCPU）和内存。这些实例特别适用于内存密集型工作负载，包括数据库、内存缓存和实时大数据分析。
• 性能提升： Graviton4是Graviton处理器家族的最新成员，由AWS定制设计。它旨在提升各种客户工作负载的性能，特别是涉及机器学习和人工智能的工作负载。

2.2 Amazon S3 Express One Zone存储

亚马逊云科技本次大会推出了Amazon S3 Express One Zone，与Amazon S3 Standard相比，数据访问速度提高至多10倍，数据请求成本降低50%，为机器学习训练和推理、交互式分析以及媒体内容创建等请求密集型工作负载提供最高性能存储。Amazon S3 Express One Zone采用全新的高性能、单区域的Amazon S3存储，专为客户延迟极其敏感类应用程序而设计，为其提供一致、个位数毫秒级的数据访问。

产品优势：

• 加速性能关键型应用程序： 与 Amazon S3 Standard 存储类相比，应用程序的访问时间可缩短多达 10 倍，提供稳定的毫秒级请求延迟，从而更快地运行性能密集型工作负载。
• 降低总拥有成本： 凭借超快的数据访问速度、更高效的计算资源利用和更低的 API 请求成本，您可以降低访问经常访问的数据集的总拥有成本。
• 无需预置即可轻松扩展 ： 可以根据需求弹性扩展，每分钟可处理数百万个请求，无需对现有应用程序进行任何预置或修改，并且使用熟悉的现有 Amazon S3 API。

应用场景：

• 机器学习和人工智能训练： 通过显著提高数据访问速度来加快模型训练和开发，从而更快地处理模型数据集。
• 交互式数据分析： 利用云端更快的处理速度、高吞吐量和低延迟存储，加快查询速度，快速分析 PB 级数据并获得洞察。
• 高性能计算（HPC）： 使用快速、高度可扩展并且可与计算资源并置的存储，快速完成计算密集型 HPC 工作负载。
• 财务建模： 将财务模型扩展到更高的粒度级别，同时以低请求延迟加快整体建模速度。
• 实时广告： 以毫秒级请求延迟提供定向广告内容，以帮助优化个性化并加快动态展示位置中的广告投放。
• 媒体内容工作负载: 借助可随计算资源扩展的存储，快速响应不断缩短的视觉效果（VFX）、渲染和转码时间要求。

2.1 Amazon ElastiCache Serverless无服务化

亚马逊云科技本次大会推出了三款无服务器服务创新，可以帮助客户以任意规模分析和管理数据并显著简化运营，而无需花费时间和精力去配置、管理和扩展其数据基础设施。

• Amazon Aurora Limitless数据库可跨多个Amazon Aurora Serverless实例自动分发和查询数据，并能够扩展到每秒百万次的事务级写入并管理PB级数据。
• Amazon ElastiCache Serverless可以帮助客户在一分钟内创建高可用的缓存，并实时进行垂直和水平扩展以支持客户复杂的应用程序，且无需管理基础架构。
• Amazon Redshift Serverless利用人工智能（AI）预测工作负载并自动扩展和优化资源，帮助客户实现高性价比的目标。

产品优势：

• 在每秒数亿次操作和高达 1 PB 的数据（使用数据分层）中实现微秒级响应时间。
• 通过多可用区部署达到 99.99% 的 SLA，并可通过跨区域复制在不到一分钟内加强灾难恢复。
• 通过为频繁读取的数据添加缓存来优化资源并降低总拥有成本，从而实现成本优化的性能。
• 使用热门开源技术 Redis 和 Memcached 快速构建应用程序，并可轻松与其他 AWS 服务集成。

三、生成式AI（Amazon Q）

2023年是生成式 AI 蓬勃发展的一年，对于很多 GenZ 开发者而言，他们开始编程的第一天就与各种辅助编程工具和 AI 助手相伴，成为了生成式AI 时代的原生开发者。2023 re:Invent大会发布的Amazon Q 则为开发人员和 IT 专业人员带来了多种功能。通过 Amazon Q可以在亚马逊云科技上构建应用程序、研究最佳实践、解决各种错误，并可获取应用程序新功能编码方面协助。亚马逊云科技的许多服务和功能都配备了 Amazon Q，无论您在哪里工作，都可通过该助手快速获得答案和想法。

Amazon Q目前已具备多项能力，比如Amazon Q能够理解人类语言，并能够根据用户的意图和语境进行回复，也能够理解用户的问题或需求，并提供相关的信息和建议；用户想Amazon Q 提出一个问题或需求时，Amazon Q会自动生成回复，并根据用户的反馈不断学习和改进，能够提供准确、及时、有用的信息，帮助用户解决问题和做出决策。Amazon Q作为一款生成式人工智能助手，可以帮助用户提高工作效率、增强创新能力、降低成本等。

1.产品能力

1.1 会话式问答功能

您可以使用 Amazon Q 会话式问答功能，与它进行互动，从而快速开始学习、了解新知识、研究最佳实践，并迭代在亚马逊云科技上构建应用程序的方式，而无需将注意力从亚马逊云科技控制台转移到其他地方。举个例子，你可以通过向Amazon Q提问，如何通过亚马逊无服务化服务快速创建无服务化API，Amazon Q会列出一些列可以创建API的服务，并且提供其具体的构建方式及其优势。

1.2 优化 Amazon实例

假如你对亚马逊云服务不是很熟悉或者你是刚开始使用亚马逊云服务，那么在工作中创建实例类型可能并非易事，此时你可以通过Amazon Q 的推荐来简化这一过程，你可以向 Amazon Q 提问：“我应该使用哪些实例系列来部署用于托管应用程序的 Web App Server？”，此时Amazon Q 会提供明确的建设步骤，帮助您了解快速使用亚马逊云服务。

1.3 故障排查及错误处理

Amazon Q 可以帮助您直接在控制台中处理各种亚马逊云科技服务的错误，通过 Amazon Q 提出的建议解决方案，可避免缓慢的人工日志检查或研究，大大提高问题解决效率。举个例子，假设您有一个试图与 Amazon DynamoDB 表交互的 Amazon Lambda 函数，但出于不明原因，这个函数无法运行，你就可以通过Amazon Q，更快地排除故障并处理此问题。Amazon Q 会提供简明的错误分析，帮助您了解问题的根本原因并提出的解决方案。

1.4 网络故障排除协助

在使用亚马逊云服务过程中出现网络配置错误，导致网络链接问题时，你可以通过 Amazon Q 协助解决这一问题。Amazon Q 会使用 Amazon VPC Reachability Analyzer 诊断连接并检查您的网络配置，确定潜在问题。举个例子，您可以向 Amazon Q 提出如“为什么我不能 SSH 访问我的 EC2 实例？”或“为什么我不能从互联网访问我的网络服务器？”等问题，就可以轻松诊断和解决亚马逊云科技网络问题。

1.5. IDE 集成

Amazon Q 同时支持在 IDE 中使用，比如Visual Code，您可以在Visual Code中安装Amazon插件，然后通过 Amazon Q 聊天或在聊天框中键入 / 来调用操作并获得帮助。在Visual Code 使用Amazon Q，需安装或更新最新的亚马逊云科技工具包，并登录 Amazon CodeWhisperer。登录 Amazon CodeWhisperer 后，Amazon CodeWhisperer 会自动激活 IDE 中的 Amazon Q 会话功能，然后就可开始聊天以获得编码协助。

2.应用场景

2.1 AWS助手

Amazon Q支持使用Code Whisperer在IDE中协助处理AWS Management Console文档，支持通过与Amazon Q聊天来探索AWS的功能、学习不熟悉的技术和架构解决方案。举个例子，如果你问它：“如何使用AWS构建Web应用？我有哪些选择？”Amazon Q将提供完整的答案。它在回答中给你提供了你可以使用的潜在服务列表，例如Amplify、Lambda或EC2，然后会提供给你可能考虑每项服务的理由，让你可以通过自然语言进一步缩小选择的范围。

2.2 业务助手

Amazon Q支持立即连接到40个主要的企业系统，包括链接到S3、Salesforce、Microsoft、Google和Slack等数据源，Amazon Q会对你的所有数据和内容建立索引，了解有关你业务的所有信息，Amazon Q同时支持生成式AI来理解和捕获那些让你业务独一无二的语义信息，员工可以通过想Amazon Q提出复杂的问题并获得与其在组织中角色相关的详细答案。举个例子，如果你更新你的跟踪优先级，Q可以自动在JIRA中创建票证，通知Slack中的负责人，并更新ServiceNow中的仪表板，在操作运行后，Q将链接到结果并进行验证。

2.3 商业助手

商业智能服务QuickSight目前已经内置了Amazon Q，用户可以通过要求Amazon Q可视化他们想要查看的内容，在几分钟内创建仪表板和报告。通过Amazon Q，用户可以立即获得一张图表，可以轻松地将其添加到仪表板上，你还可以告诉Amazon Q进一步完善视觉效果，你是想把图表改为按月份、按区域进行颜色编码的堆积条形图等操作，Amazon Q可以帮你实现。

2.4 联络助手

客服人员可以通过Amazon Connect中与Amazon Q聊天，更加快速地回答用户的问题。每次通话的时候，它都可以实时提供响应、操作和相关文章链接方面的帮助，而无需打字。Amazon Connect还支持为主管和管理员提供通话后的摘要，让他们可以用来跟踪后续行动和推进商机。

四、小结

亚马逊云科技re:Invent全球大会是一场非常盛大的技术盛会，在本届re:Invent全球大会上，亚马逊云科技发布了许多重要的新产品和新技术，例如自研芯片、人工智能工具、存储解决方案等等。通过本届大会上，参与者不仅可以了解亚马逊云科技在云计算和技术创新领域的最新动态，还可以探索未来的发展方向，为自己的业务和技术发展寻找灵感和机遇，帮助他们更好地了解和掌握最新的技术和趋势，推动自己的业务和技术发展。再次感谢re:Invent全球大会为我们提供了这样一个平台，让我们可以和全世界的客户、合作伙伴和专家共同的交流和学习，共同探讨云计算的未来发展方向。