关键字: [Amazon Web Services re:Invent 2023, DataRobot, Generative Ai Models, Ai Pipeline, Fraud Detection, Customer Service, Game Recommendations]
本文字数: 1300, 阅读完需: 6 分钟
视频
如视频不能正常播放，请前往bilibili观看本视频。>> https://www.bilibili.com/video/BV11G411v7ko
导读
如果您正在努力自信地将生成式AI解决方案产品化,并在努力实现基础设施和谐的同时,要管理大量积压的AI项目,那么这个闪电式演讲就是为您准备的。学习如何创建一个平衡生成式和预测式AI的统一平台。索尼互动娱乐的领导者将分享他们如何在亚马逊云科技上利用DataRobot创建一个无缝的、受管制的AI平台。了解他们如何现代化流程、精简治理并自动化部署流水线。获取实际的见解,了解如何实施转型性的生成式AI策略,并确保您所有的生成式和预测式AI资产都能被完全观察。这个演示由亚马逊云科技合作伙伴DataRobot提供。
演讲精华
以下是小编为您整理的本次演讲的精华，共1000字，阅读时间大约是5分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。
丽莎·阿吉拉尔（Lisa Aguilar）代表DataRobot公司，与索尼互动娱乐公司的西蒙（Simon）和弗朗西斯科（Francisco）共同探讨了DataRobot的人工智能平台如何助力索尼实现生成性和预测性人工智能项目的目标。
DataRobot公司是一家专注于生成性和预测性能力的高科技企业，提供端到端的人工智能生命周期管理平台。在过去的十年里，DataRobot已经成为人工智能领域的领军企业，超过10万名用户在各个行业和应用场景中充分利用了这一平台。全球知名品牌如三菱、克罗格和世界各地的领先银行都依赖于DataRobot来简化和管理他们的人工智能操作。DataRobot凭借其灵活的平台运用AI专业知识，成功与世界顶级云服务提供商亚马逊云科技建立战略合作伙伴关系，成为首选的技术提供商。
阿吉拉尔详细介绍了DataRobot的平台如何帮助企业实现AI模型开发的统一化和标准化，以及部署、治理和持续管理的流程。该平台为企业的人工智能资产提供了一个“单一来源的真实信息”，就像Salesforce为客户提供全面客户视图一样。DataRobot致力于保持云和工具的中立性，集成来自专用API、开源库和任何云提供商的功能。这种灵活性使得能够在不考虑底层组件的情况下构建、部署和监控AI解决方案。
她还展示了DataRobot的新文档网站，该网站包含带有正确性护栏注释的AI生成的回复。这有助于为用户提供更可靠的信息来源。DataRobot的客户凯勒威廉斯（Keller Williams）就是利用类似的AI搜索功能为房地产经纪人提供培训视频。该平台还支持持续的人类反馈循环，以提高生成性AI回复的准确性。
在DataRobot平台的核心是一个名为AI控制台的工具，它为整个组织中部署的所有AI模型提供了一个集中的视图。用户可以轻松地跟踪和管理整个开发周期的模型，从正在进行的项目到生产中部署的模型，再到模型漂移监控。控制台使组织能够设置阈值并针对关键指标（如模型准确性、延迟、LLM成本等）发出警报，以确保治理和控制得到维护。
阿古埃尔展示了该平台如何详细监控生成性AI输出，以便识别任何错误或令人担忧的回应。这使得数据科学家能够发现问题并采取相应的措施调整训练数据、提示或算法。最终目标是让企业能够在信任的基础上对生成性AI的建议采取行动，实现所需的可见性、工具和限制。
她强调了DataRobot的灵活性，使组织能够并行尝试多种生成性AI方法，以确定最适合其使用案例的解决方案，然后再将其投入生产。该平台使得轻松替换和重新配置组件而没有工程方面的开销成为可能，从而防止了AI技术债务和无法管理的蔓延。
来自索尼互动娱乐的Simon分享了DataRobot在过去5-6年中如何成为他们机器学习管道的关键部分。索尼主要依赖托管云服务，如亚马逊云科技，而DataRobot提供了一个优化其数据科学操作的强大管理平台。该平台自动执行许多数据科学家过去必须手动执行的繁琐步骤，使他们能够专注于更有价值的活动。
他解释了如何利用该平台开发和运营预测性AI解决方案，用于游戏之外的各种使用案例，如欺诈检测、预测和客户保留。尽管新数据科学家可能认为他们可以手写更好的模型，但Simon指出，他们还没有找到一个DataRobot不能满足或超过手动编码解决方案的情况。
索尼互动娱乐目前正在积极研究如何将生成性AI应用于四个主要领域：
-
对话式搜索 - 允许玩家通过自然语言对话探索游戏并获得个性化推荐，提供比传统搜索和推荐更直观的体验。
-
关联推理 - 分析客户服务聊天日志，以识别可能需要调查的趋势、常见问题和可疑模式。
-
内容生成 - 自动生成本地化和文档。
-
异常检测 - 标记可能表示欺诈或滥用的不寻常帐户活动。
西蒙强调，在启动任何AI项目之前，提前定义关键绩效指标和基准指标至关重要，以便量化成功。他列举了一些例子，如成本节省、收入增长、客户满意度、员工保留率的提高等。这使得基于数据的决策能够确定哪些解决方案能真正提供商业价值。
此外，他还指出了部署生成性AI与预测模型之间的独特考虑因素，如基础设施需求、监控幻觉、持续的模型管理和技术来测量输出质量随时间的变化。这些都是DataRobot提供有益的指导和视角的重要领域。
接着，弗朗西斯科详细介绍了索尼如何利用DataRobot的端到端机器学习管道。他解释了DataRobot如何自动迭代不同的模型配置和超参数，以确定表现最佳的模型。这些模型随后被导出并部署到生产环境中，实现低延迟评分和决策。
此外，他还解释了他们如何使用DataRobot进行回测和模拟，根据过去的数据评估新模型的表现。这有助于随着时间的推移量化模型的改进。模拟的输出被反馈到DataRobot平台，以持续改进新的迭代。
最后，阿吉拉尔强调，人工智能的发展日新月异，DataRobot提供了一个“保险单”，防止技术债务、跟上变化并保持灵活性。她指出，监控和观察生成性AI的输出需要新的技能，DataRobot可以通过工具和可视化帮助组织培养这些技能。她重申了关注那些展示明确成本节省和投资回报的使用案例的重要性，因为与预测模型相比，生成模型的成本更高。
总的来说，演示表明DataRobot的端到端平台如何帮助像索尼这样的公司优化、管理和增强其AI项目，包括预测和生成两种用例。通过自动化重复工作、提供指导和灵活性，DataRobot使组织能够充分利用AI的潜力，从而产生真正的商业影响。
下面是一些演讲现场的精彩瞬间：
领导者强调了DataRobot在人工智能领域超过10年的发展和其在各大公司的广泛应用。
作为一家专注于AI的公司，DataRobot致力于帮助企业在整个AI模型生命周期的数据源到部署过程中实现流程优化和一体化。
领导者还展示了如何利用亚马逊云科技Transcribe Call Analytics技术来分析错误的回答，从而改进AI模型的性能。
此外，西蒙探讨了通过关联推理和生成性AI来发掘客户服务聊天中典型指标可能忽略的见解的可能性。
亚马逊云科技的AI项目已通过自动化繁琐任务提高了员工留存率，同时通过更优质的解决方案提高了客户满意度，从而实现了显著的成本节省和收入增长。
最后，领导者衷心感谢观众的宝贵时间，并邀请他们参观亚马逊云科技展位以获取更多信息。
总结
索尼互动娱乐公司分享了在亚马逊云科技上利用DataRobot的AI平台来实现生成性和预测性AI的经验。从DataRobot在整个AI生命周期内的管理能力概述开始，该平台提供了对模型的可视化能力，并具有使用不同工具构建的灵活性。
主要强调了三个方面：
首先，DataRobot将所有AI资产集中到一个统一平台上，监控诸如成本、准确性等性能指标。这使得轻松识别问题变得可能，例如如果用户将响应标记为错误，就需要更新训练数据。
其次，DataRobot支持评估多个AI引擎，这是随着该领域迅速发展的一项重要功能。用户可以在部署最佳表现者之前比较不同的模型和向量数据库，以优化提示策略。
最后，对于可操作性，DataRobot将模型打包成便携运行时，以便集成到生产管道中。监测和防护栏至关重要，提前定义关键指标以衡量对成本、收入和客户满意度的影响也非常重要。
总的来说，AI的变化速度要求灵活和开放的平台。在强大治理和可观察性方面进行明智投资将使您能够自信地扩展AI并随着时间的推移衡量其价值。
演讲原文
https://blog.csdn.net/just2gooo/article/details/134868060
想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！
2023亚马逊云科技re:Invent全球大会 - 官方网站
点击此处，一键获取亚马逊云科技全球最新产品/服务资讯！
点击此处，一键获取亚马逊云科技中国区最新产品/服务资讯！
即刻注册亚马逊云科技账户，开启云端之旅！
【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”
亚马逊云科技是谁？
亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者，自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务，涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体，以及应用开发、部署与管理等方面；基础设施遍及 31 个地理区域的 99 个可用区，并计划新建 4 个区域和 12 个可用区。全球数百万客户，从初创公司、中小企业，到大型企业和政府机构都信赖亚马逊云科技，通过亚马逊云科技的服务强化其基础设施，提高敏捷性，降低成本，加快创新，提升竞争力，实现业务成长和成功。
