震惊！我，一个 AI 技术小白，竟然用 Dify+Ollama 手搓出了自己的 AI 聊天助手！

文 / 勇哥原创文章，转载请联系授权

写在前面：从 AI 小白到 AI 创造者的逆袭

大家好，我是勇哥！继上一篇《揭秘 Deepseek：只用 GPT-4 成本的 6%，却做出更聪明的 AI？》带大家简单地了解了一下 AI 智能助手的工作原理之后，今天我想要跟大家分享一个技能：作为一个连 LLM 模型底层是怎么实现都不懂的技术小白，也能在半天内成功搭建了一个属于自己的 AI 聊天助手！

是的，你没听错！不是用 ChatGPT，不是用文心一言，而是完全属于我们自己的、可以定制化训练的 AI 助手！而且整个过程简单到让你怀疑人生——原来搞 AI 可以这么容易？

为什么要自己搞 AI 助手？

事情是这样的：年初的时候，要给公司做一个小程序，我在网上看到各种 AI 工具，什么 ChatGPT、Claude、Deepseek，用起来确实很爽。但是每次都要翻墙、每次都要付费、每次都要担心隐私问题...作为一个有点强迫症的人，我实在是受不了了！

于是我就想：能不能自己搞一个？就像自己在家做饭一样，既省钱又放心！

我的"神器"组合：Dify + Ollama

那时候的我对于 AI 系统还是一个小白，不过经过一番研究，我发现了两个超级好用的工具：

Dify：AI 应用的"乐高积木"

想象一下，Dify 就像一个 AI 应用的"乐高积木"工具箱。你不需要懂代码，只需要像搭积木一样，把各种功能模块组合起来，就能搭建出属于自己的 AI 应用！

Ollama：本地运行的 AI"大脑"

Ollama 就更神奇了！它能让 AI 模型在你的电脑上本地运行，就像给你的电脑装了一个 AI 大脑。不需要联网，不需要付费，完全私有化部署！

手把手教学：我是怎么做到的？

第一步：安装 Ollama（5 分钟搞定）

这个步骤简单到让我想哭！

1. 打开 Ollama 官网（https://ollama.com/download）
   

2. 下载对应你操作系统的安装包

3. Windows 双击安装，一路"下一步"，MacOS 直接拖到 Applications 文件夹

4. 运行程序，并打开命令行，输入：ollama run llama3.2，这里需要下载模型，而且速度比较满，需要耐心等待。不过有个技巧，就是如果发现下载的速度慢了，就 Ctrl+C 中断下载，然后重新输入命令，就会从上次中断的地方继续下载。

就这么简单！你的电脑就已经有了一个 AI 大脑！

第二步：安装 Dify（20 分钟搞定）

Dify 的安装也很简单：

1. 确保你的电脑有 Docker 和 Gi（没有的话先装 Docker 和 Git）以及翻墙的工具

2. Docker的Windows安装教程
   

3. Docker的MacOS安装教程
   

4. 打开命令行，逐行输入：

git clone https://github.com/langgenius/dify.gitcd dify/dockercp .env.example .envdocker compose up -d

3. 等启动完了打开浏览器，访问 http://localhost
   

恭喜！你已经成功搭建了 AI 应用平台！

第三步：连接两个"神器"（3 分钟搞定）

这是最关键的一步，但也是最简单的：

1. 配置 Ollama 的模型

• 打开 Dify 右上角的"设置"点击模型供应商

  

• 找到Ollama，然后点击安装，这里截图是“Deepseek”的

  

• 安装好了之后点击模型右上角的“添加模型”，然后按照下面来输入内容，模型名称记得是：llama3.2

  

• 选择前面下载好的llama3.2模型，这里用的截图是deepseek的，除了名称，其他都是一样的，填写好了点击保存

• 配置好了模型后，如下图：

  

1. 
   

2. 在 Dify 界面点击"创建空白应用"

   

3. 选择"ChatFlow"模板，输入名称

   

4. 点击"LLM"的组件，配置我们前面设置好的模型

   

5. 可以按照默认的配置，然后点击“预览”测试效果

6. 

6. 接着点击“发布”就可以了

大功告成！你的专属 AI 助手已经诞生了！

我的 AI 助手能做什么？

基础功能：聊天对话

我的 AI 助手现在可以：

• 回答各种问题（比百度好用多了！）

• 帮我写邮件、写文案

• 翻译各种语言

不过前提是你要知道怎么写提示词，如果提示词写得不好，AI 助手可能会出现严重的降智。

高级功能：定制化训练

最让我兴奋的是，我还可以训练它专门为我服务：

场景 1：我的专属代码助手我上传了自己的代码数据，现在 AI 助手能：

• 集成到 IDE 上写代码，根据我的代码习惯推荐专有的代码提示词

• 再也不用怕自己的代码被上传到其他地方涉密了。

场景 2：我的私人理财顾问我输入了自己的收入和支出数据，现在 AI 助手能：

• 帮我分析消费习惯

• 制定省钱计划

• 推荐合适的理财产品

场景 3：我的写作助手我上传了自己喜欢的文章风格，现在 AI 助手能：

• 帮我润色文章

• 提供写作灵感

• 检查语法错误

为什么这个组合这么牛？

1. 完全免费！

• Ollama 本地运行，不花一分钱

• Dify 社区版免费使用，如果想功能更强大一点的可以试下 n8n

• 再也不用担心 API 费用了！

2. 完全私有！

• 所有数据都在自己电脑上

• 不用担心隐私泄露

• 可以放心上传敏感信息

3. 超级简单！

• 不需要懂代码

• 图形化界面操作

• 像玩积木一样简单

4. 功能强大！

• 支持多种 AI 模型

• 可以定制化训练

• 支持各种应用场景

我遇到的坑和解决方案

坑 1：电脑配置不够

刚开始我用的是老旧的笔记本电脑，运行起来卡得要命。

• 解决方案：换了一台配置好点的电脑，或者使用云服务器。其实现在很多云服务器都很便宜，一个月几十块钱就能搞定。

坑 2：模型下载慢

第一次下载 AI 模型的时候，等得我花儿都谢了。

• 解决方案：选择小一点的模型开始，比如llama2:7b，等熟悉了再换大模型。

坑 3：不知道怎么用

刚开始面对这么多功能，我也有点懵。

• 解决方案：多看官方文档，多在社区里交流。Dify 和 Ollama 都有很活跃的社区，很多问题都能找到答案。

我的使用心得

给技术小白的建议：

1. 别怕，大胆尝试：真的没有想象中那么难

2. 从简单开始：先用小模型，熟悉了再升级

3. 多问多学：遇到问题就去社区求助

4. 结合实际需求：想清楚你要 AI 助手帮你做什么

我的收获：

• 成就感爆棚：从 AI 使用者变成了 AI 创造者

• 技能提升：虽然还是小白，但至少知道 AI 是怎么回事了

• 实际价值：真的帮我解决了很多实际问题

未来展望：AI 助手的无限可能

现在我的 AI 助手已经成了我的得力助手，但我还在不断探索新的可能性：

计划中的升级：

1. 语音交互：让 AI 能听懂我说话

2. 多模态：支持图片、视频处理

3. 自动化：让 AI 帮我自动处理一些重复性工作

梦想中的场景：

• 早上起床，AI 助手已经帮我安排好一天的工作

• 工作中遇到问题，AI 助手实时提供解决方案

• 下班后，AI 助手帮我总结今天的工作成果

最后想说

如果你也像我一样，对 AI 既好奇又有点害怕，那我强烈建议你试试 Dify + Ollama 这个组合。

真的，这可能是你离 AI 最近的一次机会！不需要高深的技术，不需要昂贵的设备，只需要一点勇气和好奇心。

相信我，当你看到自己亲手搭建的 AI 助手第一次回答你的问题时，那种成就感是无法用语言形容的！

互动时间：如果你也想尝试搭建自己的 AI 助手，或者已经尝试过了，欢迎在评论区分享你的经历！我们一起交流，一起进步！

资源推荐：

• Ollama 官网：https://ollama.ai
  

• Dify 官网：https://dify.ai
  

• 相关教程：B 站上有很多详细的视频教程

关于作者：勇哥，10 多年的开发和技术管理经验，从程序员做到企业技术高管。目前专注架构设计和人工智能应用实践，全网帐号统一名称“六边形架构”，欢迎志同道合的朋友一起学习和交流。

原创不易，如果觉得有帮助，请点赞、在看、转发三连支持！