写点什么

我在平台与 AIGC 的交互的组件设计方案 (2)

  • 2023-12-25
    新加坡
  • 本文字数:1765 字

    阅读完需:约 6 分钟

我在平台与AIGC的交互的组件设计方案(2)

软件工程师罗小东,多年架构和平台设计经验,目前在研究平台与新技术结合中。

回顾

上一篇梳理到我在平台与 AIGC 的交互的组件设计方案,进行了交互的设计架构,而进一步结合 IM 整合,将进一步阐述优化交互流程。同时到这步环节引入体验人员来验证 LLM 对工程师的提升效果,同时体现出超级工程师个体。

体验人员介绍:测试工程师,前期有半年的时间跟进学习平台技术,熟悉平台的场景和使用流程。

引入测试工程师主要目标是进行过程的交互体验,以更好的验证这个过程,以体现 LLM 结合对人员能力提升的效果,后期将通过体验结果来进一步形成超级工程师个体。

概述

书接上文。

LLM 的推理能力和 GC 内容生成,为了更进一步的优化和结合多 Agent 的结合,在这里进行了自定义的 GC 的交互方式,自定义了一个简单的 IM,以便于更好的管理。主要的目标是为了将难用的可视化管理界面进行尽量的规避,统一通过与 Agent 与员工的交互来进行整体平台的管理,形成类似于 ChatOps 的工具,但是在 LLM 上会更强大。

以下为交互管理界面:


在这个过程中,虚拟出多个 Agent 个体,这里分成了多个团队和多个细化的个体,通过不断的加入群交互,通过测试工程师的调用和工程师审核,来进一步的完成多个工作结果,比如对虚拟需求团队、虚拟工程师团队、虚拟架构师团队等的管理把控,在不满足的情况下,不断的加入新的工程师来进行交互工作,直到完成一个闭环作业。

以下为虚拟的工程师团队:


这里跟 AutoGPT 之类的区别在于,这里引入 LLM 是为了更好的促进超自动化,来解决平时工作中的问题,通过超级个体和 Agent 角色的结合来完成这个目标,而不是类似于一开始就是完全自动,在这个阶段,我们对 LLM 的定位依然还是辅助角色。以下为相关的设计思路:

  • 定义团队和多个 Agent 角色分工

  • 定义 Agent 流程和审核方式,交互方式,流程编排

  • 多频道(群)和多 Agent 协作

每个团队的设计思路都有自己的方案,上面是我们在这个过程中的一些实践经验,每个架构师有自己的思维,我有我思。

设计思路

这里的设计并不会有太多复杂的定义,整个过程以解决实践工作问题为主。

定义团队和多个 Agent 角色分工

为了更好的进行 Agent 角色的定义,进行多个角色的拆分,拆分的目标是为了更好的聚合,将每一项工作进行细化,形成独立的 Agent 角色,进而通过多个角色的聚合,形成一个闭环工作。以下是目前细化的团队和 Agent,主要包括:

  • 人才管理专家团队

  • 解决方案架构师团队

  • 技术工程师团队

  • 数据挖掘分析团队

  • 自动化运维管理团队

  • 业务运营专家团队

以下为相关设计图:


在形成多个 agent 之后,调试好 Prompt 指令,确保结果达到可用或者说可以达到初步讨论的地步,目前还无法做到 100%,所以在 IM 交互上,添加了工程师审核的步骤,审核的意见来源来自于经验的积累和平时的讨论,目前这步暂时先这么处理。

定义 Agent 流程和审核方式,交互方式,流程编排

在增加到一定的 Prompt 指令,通过服务和流程编排的形式来进行每个角色的定义,当前以硬编码和自定义节点来处理,流程工具使用的是 LiteFlow,暂时没有配置可视化的流程界面,主要的考虑在于定制化的内容较高,前期在研究调试阶段,以定制化编排为主。

以下为数据库设计聚合流程:


这样的交互形式,在某个角度上面,比较容易实现 Agent 的标准化和准确结果。

多频道(群)和多 Agent 协作

假设说一个虚拟的角色或者多模态的角色会输出结果,这里可以定义和理解成它就是一个”员工”,这里增加多频道主要是为了更好的在内部分享和结果共享,这样以更好的形成公司组织模式。通过增加频道的方式来进一步的集成多个 Agent 在工作台上面交互,或者集成多个结果进行交互管理,如下图:


这个过程上一个 Agent 的结果是下一个 Agent 的输入,测试工程师在这个过程的操作,主要是做审核校验,以确保上下结果的准确性,如果不准确,可微调或者重新生成。同时增加了知识库的交互,比如可以上传某份需求文档或者内容文档,进行更好的内容提取和推理,让 AIGC 结果更加准确。

总结

这个过程走下来的并不是说特别难设计,只是说新的概念为我们提供了新的思路,比如 Agent、超级个体、智能体等,并不会完全搬照,而是针对于实际的问题进行了取舍,有比较多”完美”的想法,也在一步步进行延伸,最终的目标是期望能自我演化,但是怎么做,这还在设计,比如记忆系统,演化系统,成长系统等都需要进一步的定义和设计,前期的目标是能形成超自动化的方向,后期也同步在研究。

也期望有兴趣的同学可以一起讨论,分享经验。

发布于: 刚刚阅读数: 4
用户头像

我是一名设计和编码的小东大人 2018-05-05 加入

软件工程师,架构师,擅长架构设计和团队管理,交流可关注本人公众号:软件工程师罗小东 :-)

评论

发布
暂无评论
我在平台与AIGC的交互的组件设计方案(2)_软件工程师-罗小东_InfoQ写作社区