利用亚马逊云科技生成式 AI 工具微调 COE 流程

导读

在这场演讲中,讲者探讨了如何利用生成式人工智能来优化纠正错误(COE)流程。COE 是一种识别和修复问题、确定行动项目的责任人、最大化经验教训以及防止再次发生的机制。演讲重点阐述了亚马逊云科技如何通过利用生成式人工智能生成 COE 文档的关键部分,如影响声明、根本原因分析(5Whys)和行动项目,从而实现高效的 COE,同时保持专业的语气,避免责备或惩罚性的措辞。讲者演示了如何通过提示工程来指导人工智能的输出,并从 JupyterNotebook 的实现中给出了示例。

演讲精华

以下是小编为您整理的本次演讲的精华，共 1000 字，阅读时间大约是 5 分钟。

在不断演进的云计算领域中,亚马逊云科技(亚马逊云科技)矗立为创新的灯塔,不断突破界限并完善其产品和服务,以满足客户日益变化的需求。其中一项重要举措围绕着纠正错误(COE)流程,这是一种健全的机制,旨在识别、分析并纠正问题,最终推动持续改进并防止问题再次发生。

资深解决方案架构师 Johnny Hanley 提出了一种突破性的方法,利用生成式人工智能(GenerativeAI)的力量来简化和优化 COE 流程。认识到进行 COE 时固有的挑战,往往需要大量人力资本且存在不一致性风险,Hanley 提出了一种令人信服的解决方案——整合生成式人工智能以提高效率和一致性。这次演讲由 JuanOsa 共同撰写,体现了这一创新努力背后的协作精神。

汲取亚马逊云科技先驱者的智慧,Hanley 强调任何系统都难免会出现故障,正如 Werner Vogels 所言:“一切都会随时失败。”然而,亚马逊云科技并不将失败视为挫折,而是将其视为学习和成长的机会,与 JeffBezos 的理念”好的意图从来都不会奏效”相呼应,除非有健全的机制。COE 流程因此成为一种强大的机制,有助于从失败中汲取教训,培养持续改进的文化,而不会归咎或惩罚。

Hanley 强调培养一个安全的空间至关重要,让最接近问题的人员能够畅所欲言,提出改进领域,而不必担心后果。这与 Well-ArchitectedFramework(架构优化框架)的理念一致,该框架是一套涵盖六大支柱的最佳实践指南,包括安全性、弹性和运营卓越,其中 COE 流程是提高组织安全态势和整体弹性的基石。

汉利的演讲深入探讨了利用生成式人工智能简化 COE 流程的可能性艺术,虽然承认这种方法尚未完全成熟,但他邀请与会者踏上测试和定制之旅,将解决方案量身定制以适应他们独特的环境和需求。该演示利用了 AmazonBedrock 服务,该服务提供了安全合规的途径访问生成式人工智能模型,特别是通过 Boto 3 SDK 的 API 调用利用了 Anthropic 的 Claude 和 SonNet 模型。

COE 流程被细致地剖析,汉利带领观众了解了各个组成部分。人工输入元素,如时间线和指标,构成了基础,捕捉了描述事件的事实和数据点。在所呈现的场景中,事实显示 10,000 个文件被处理但未成功转换,客户收到了上传成功的消息,尽管数据从未到达应用程序。

在这个基础上,生成式人工智能接手了工作,创建了必要的元素,如执行摘要、影响声明、通过”5 个为什么”方法进行的根本原因分析,以及改进的可操作项目。提示工程在这一过程中扮演着关键角色,使生成式人工智能能够理解并遵循所需的语气、上下文和行为准则。汉利通过向人工智能提供具体指令,如保持专业语气、避免责备和惩罚、遵守字数限制,展示了提示工程的力量。

随着演讲的进行,汉利带领观众浏览了一系列提示和输出,展示了生成式人工智能理解复杂场景、综合信息和生成连贯叙述的非凡能力。例如,影响声明是一个简洁而全面的段落,捕捉了事件影响的本质,遵循了指定的字数和语气。

5Why”根本原因分析展现了生成式人工智能的卓越能力。在缺乏明确方法论指导的情况下,人工智能自然而然地提出了一条根本原因路径,反复提问并作答,深入探讨了超过 10,000 个文件无法成功转换的表面症状背后潜在的问题。Hanley 对人工智能能够借鉴现有知识源(如亚马逊云科技关于 COE 流程的博客文章)来丰富其理解和输出的能力表示赞赏。

行动项目部分进一步彰显了人工智能的实力,根据确定的根本原因生成具体、可衡量、可实现、相关和有时限的行动项目。Hanley 对人工智能不仅能够提供行动项目,而且能够解释每个项目如何符合 SMART 标准的能力表示赞赏,这展现了超越简单重复信息的深度理解水平。

在总结性的执行摘要中,生成式人工智能巧妙地将人工输入、人工智能生成的内容和可执行项目编织在一起,构建了一个连贯的叙事,概括了事件的时间线、影响、根本原因和改进建议。摘要简洁地捕捉了事件的本质,即客户收到成功上传的消息,但数据从未到达应用程序,并概述了补救步骤和时间表,同时融入了人工智能生成的行动项目。

尽管认可生成式人工智能的巨大潜力,但 Hanley 也意识到在某些情况下,人工输入和专业知识可能更为合适,例如涉及诊断、识别和缓解问题所需时间的事件问题。他的演讲采取了平衡的基调,倡导审慎地整合人工智能能力,同时尊重人类智能和领域专业知识的宝贵贡献。

随着演讲接近尾声,Hanley 邀请观众深入探索他精心策划的资源,包括博客和 2022 年 re:Invent 上关于 COE 流程及其与生成式人工智能整合的精彩演讲。

汉利的演讲预示着云计算和事件管理进入了一个新纪元,在这个纪元中,人类智慧与人工智能的协同将带来前所未有的效率、一致性和持续改进。通过利用生成式人工智能的力量,Amazon 云科技旨在赋予组织从失败中汲取教训、推动可行的改进并加强其安全态势的能力,同时培养一种协作、创新和不懈追求卓越的文化。

总结

1)        COE 流程依赖于一种开放、没有责备或惩罚的文化,以鼓励个人提出需要改进的领域,而无需担心后果。

2)        利用生成式人工智能可以简化和增强 COE 流程,通过自动化任务(如总结事件、进行根本原因分析(5Whys)和生成可操作的建议),使其更加高效和一致。

3)        提示工程在指导生成式人工智能产生所需输出方面发挥着关键作用,确保它保持专业语气,避免责备,并遵守特定的格式和内容要求。

演讲者最后强调,接受 COE 流程作为从失败中吸取教训、推动行动项目的所有权,并最终提高安全态势和运营卓越性的一种手段是非常重要的,这与 Well-ArchitectedFramework 的最佳实践保持一致。