基于 Amazon Bedrock 的运维效率提升

随着 ChatGPT 的发布，大模型一夜出圈，做 PPT，写代码，写诗，画画，仿佛一瞬间 AI 已经无所不能；随即大模型开始逐步渗透各个垂直行业，而使用大模型后，效率大幅提升。

本次针对的是海量日志的分析、运维与展示，结合大模型先满足以下三个初步需求，初试成功后再注入到整个过程

• 数据分析方面，针对日志中的文本信息自动提取关键信息，形成数据库索引，存入数据库

• 用户输入智能提示，在用户输入端通过 Prompt 提示帮忙用户提交问题，从而更准确易识别

• 用户展示智能报表，将用户问题转换成数据库查询语句，形成数据报表

同时因为数据量巨大，因此需要一个完整的可定制基础模型，快速开发，快速部署验证及数据安全有保障的一个丰富平台，而 Amazon Bedrock Wokshop 正符合这一特点，首先提供了多个基础模型和应用，同时极易定制是 Bedrock 的突出特征，借助无服务器体验，企业可以快速找到适合自身业务的模型进行个性化定制，并可将定制化模型部署到已有的应用程序中；用户可以通过可扩展、可靠且安全的亚马逊云科技托管服务，访问从文本到图像等一系列基础模型以及 Amazon Titan 基础模型；Titan 基础模型还可以有效识别及阻拦客户提交给定制模型的数据中的有害内容，防止用户输入不当内容，过滤模型中不当内容的输出结果，此功能除了在训练模型时，同时上上述 1,2,3 均非常有用，可有效防止因为恶意输入敏感数据、数据被篡改形成的脏数据等问题。

针对上面的需求，可参考亚马逊 Amazon Bedrock Wokshop 的应用快速实现验证

• 参考Text Summarization和自研 Text Classification 分析提取日志中关键信息

• 参考Chatbot和Questions Answering帮忙用户提交需求文本，形成更方便的问答式交互

• 参考Text Generation实现智能要点总结，并输出可视化报表

差点忘了提，Pycharm 集成 Amazon 的 CodeWhisper 自动代码生成，上述 Demo 代码至少 30~50%可根据注释自动完成，当然生成的代码还需要必要的检查调试。

总之，虽然没有像 OpenAI 那样爆火，Amazon 还是在 AI 应用的各个方面进行创新，当前已经初步形成平台的整体雏形，正处于长期蓄能、厚积薄发；相信结合其云服务应用存储的优势，对于企业上云开发的同学无疑是具备竞争力的一种一体化解决方案选择。