写点什么

使用 PAI-DSW 搭建基于 LangChain 的检索知识库问答机器人

  • 2024-01-10
    陕西
  • 本文字数:1661 字

    阅读完需:约 5 分钟

教程简述在本教程中,您将学习如何在阿里云交互式建模(PAI-DSW)中,基于 LangChain 的检索知识库实现知识问答。旨在建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。LangChain 是一个开源的框架,可以让 AI 开发人员将像 GPT-4 这样的大语言模型(LLM)和外部数据结合起来,从而在尽可能少消耗计算资源的情况下,获得更好的性能和效果。本教程启动 LangChain WebUI 页面,进行春节相关传统文化习俗的知识问答的示例效果如图所示。



基于本教程可以体验:👍新用户可免费领取价值万元的人工智能平台PAI试用资源👍学会如何快速在阿里云上创建一个交互式训练开发环境。👍学会如何在 DSW 中安装 LangChain 应用以及启动 WebUI。👍学会如何在 WebUI 中进行知识问答。答疑交流群如需技术支持,请在钉钉搜索群号「 52485000325」,加入群聊使用 PAI-DSW 搭建基于 LangChain 的检索知识库问答机器人 1 准备环境和资源 1.1 领取交互式建模 PAI-DSW 免费试用权益前往活动页面,领取交互式建模 PAI-DSW 产品免费试用资源包



○对于交互式建模 PAI-DSW 的新用户,阿里云提供了 5000CU*H 的免费试用资源,可以在活动页面中直接领取(试用规则请参照阿里云免费试用:https://free.aliyun.com/);或可以购买交互式建模 PAI-DSW 资源包参与活动,购买链接:PAI-DSW 100CU*H 资源包,价格 59 元起;如不购买资源包,PAI-DSW 会按量进行计费,计费标准详见阿里云产品定价。1.2 创建 PAI-DSW 实例(需要补充)1 前往人工智能平台 PAI 控制台,链接:https://pai.console.aliyun.com/2 开通人工智能 PAI 并创建默认工作空间。请参见开通并创建默认工作空间。3 在人工智能平台 PAI 控制台内,选择交互式建模 PAI-DSW,或点击链接



4 点击创建实例(如上图)5 自定义输入实例名称



6 选择机型: 已领取免费试用权益:选择 GPU 规格分类下的 ecs.gn6v-c8g1.2xlarge 或 ecs.gn7i-c8g1.2xlarge,支持资源包抵扣;此外其他机型需付费;若无库存可选择其他 region 尝试,或选择付费机型。未领取免费试用:可选择任意 A10 或 V100 机型,需自费。



7 选择镜像:modelscope:1.9.1-pytorch2.0.1tensorflow2.13.0-gpu-py38-cu118-ubuntu20.04



8 创建实例实例状态:启动中-资源准备中-环境准备中-运行中。约需 3-5 分钟,当状态为“运行中”时,实例创建成功。1.3 在 DSW 中打开教程文件 1 打开最佳实践教程 >> 基于LangChain的检索知识库问答WebUI2 在教程右上角 点击 “在 DSW 中打开”



3 选择刚刚创建好的实例



1.4 运行教程文件 1 在打开的教程文件 langchain_retrieval_question_answering_webui.ipynb 文件中,您可以直接看到教程文本,您可以在教程文件中直接运行对应的步骤的命令,当成功运行结束一个步骤命令后,再顺次运行下个步骤的命令。



2 当第 3 步启动服务运行完成后,在返回的运行详情结果中单击 URL 链接(http://127.0.0.1:7860),进入 WebUI 页面。后续,您可以在该页面中进行知识问答。【说明】如果因为网络原因导致打开的 WebUI 页面显示空白,您可以尝试切换到其他地域或重新运行步骤 1 中的命令,重新打开 WebUI 页面。



2 完成部署开始体验完成以上操作后,您已经成功完成了 LangChain 应用的 WebUI 部署。您可以在 WebUI 页面进行知识问答。在 LangChain WebUI 页面左侧请上传知识库文件区域中,已预先为您配置了知识库文件。您也可以单击请上传知识库文件上传自定义的知识库文件,支持的文件格式为.txt、.md、.docx。在 WebUI 页面底部请输入问题文本框中,输入业务数据相关的问题,然后单击发送按钮,就可以进行知识问答。1.删除现有文档,上传春节相关知识库文档



2.知识库文件向量化



3.输入问题并发送




4 在「和PAI一起,每周玩转AI」第三期:使用PAI-DSW搭建基于LangChain的检索知识库问答机器人 活动页面,上传您的对话截图,赢取精美好礼!3 资源清理及后续 3.1 清理●在实验完成后,可前往对应产品控制台,停止或删除实例(两个操作均可),避免实例持续处于运行中,在超出免费试用额度后,带来额外的扣费



●后续仍考虑使用该实例>>停止;后续不再使用该实例>>删除,成功停止后即停止资源消耗。3.2 后续在试用有效期期间,您还可以继续使用 DSW 实例进行模型训练和推理验证。


发布于: 刚刚阅读数: 5
用户头像

还未添加个人签名 2020-10-15 加入

分享阿里云计算平台的大数据和AI方向的技术创新和趋势、实战案例、经验总结。

评论

发布
暂无评论
使用PAI-DSW搭建基于LangChain的检索知识库问答机器人_阿里云大数据AI技术_InfoQ写作社区