写点什么

MoneyPrinterPlus 全面支持本地 Ollama 大模型

作者:程序那些事
  • 2024-07-15
    广东
  • 本文字数:1263 字

    阅读完需:约 4 分钟

MoneyPrinterPlus全面支持本地Ollama大模型

MoneyPrinterPlus 现在支持批量混剪,一键 AI 生成视频,一键批量发布短视频这些功能了。


之前支持的大模型是常用的云厂商,比如 OpenAI,Azure,Kimi,Qianfan,Baichuan,Tongyi Qwen, DeepSeek 这些。


支持云厂商的原因是现在大模型使用基本都很便宜,并且大厂的稳定性,性能都比本地搭建要好很多。


但是很多小伙伴说还是希望接入本地的 LLM 模型。


所以,最近我对 MoneyPrinterPlus 进行了一些适配,最新版本已经支持 Ollama 了。


你可以在 Ollama 中接入你想要使用的大模型。


下面告诉大家如何在 MoneyPrinterPlus 中使用本地的 Ollama 模型。

软件准备

当然,前提条件就是你需要下载 MoneyPrinterPlus 软件啦。


下载地址: https://github.com/ddean2009/MoneyPrinterPlus


用得好的朋友,不妨给个 star 支持一下。

安装 Ollama

如果已经有 Ollama 的朋友可以直接跳过本节。


对于没有安装过 Ollama 的朋友,可以直接进入 Ollama 的官网: https://ollama.com/ 进行安装和下载。


现在 Ollama 支持 windows,linux 和 Mac 这三种操作系统。


我们以 linux 环境为例来讲解一下 Ollama 的安装。


在 linux 环境中,Ollama 只需要执行下面的命令即可:


curl -fsSL https://ollama.com/install.sh | sh
复制代码


系统会自动下载 Ollama 的安装包,进行安装。


这样 Ollama 就安装好了。


Ollama 支持很多 models,我们可以在他的 https://ollama.com/library 网站中查找需要的模型。


比较常用的像 llama3,mistral, llama2-chinese 等等。


我们可以使用 ollama list 来查看现有的模型。


如果要下载对应的模型,可以 ollama pull llama3 从 Ollama 的模型注册表中拉取指定的模型到本地。


然后使用 ollama run llama3 来运行对应的模型。


当然 ollama 还有一些其他的用法。这里就不多讲了,大家可以去看下 ollama 的文档。


ollama 安装好之后,我们可以通过下面的命令来测试一下 ollama 的使用:


curl http://localhost:11434/api/generate -d '{  "model": "llama3",  "prompt":"Why is the sky blue?"}'
复制代码


如果有返回,那么说明你的 ollama 是没有问题的。可以继续使用了。

在 MoneyPrinterPlus 中配置 Ollama

我们启动 MoneyPrinterPlus,点击左边的基本配置,在右边的 LLM 大模型配置项中,我们下拉选择 Ollama。



Ollama 的配置需要设置两项。


第一项是 Base Url,也就是调用 Ollama 的地址。


如果你的 ollama 在本地,就填:http://localhost:11434/


如果是在其他远程的机子上,就填:http://IP:11434/


需要注意的是,Ollama 默认只会暴露端口给本机连接。如果需要远程连接 Ollama,还需要改下 Ollama 的配置:


vi /etc/systemd/system/ollama.service
在[Service]下面添加一下环境变量:#配置远程访问Environment="OLLAMA_HOST=0.0.0.0"
复制代码


修改完之后重新 load 并重启 ollama 即可:


sudo systemctl daemon-reload 
sudo systemctl restart ollama
复制代码


第二项是 Ollama 中的模型名字。


比如你用的是 llama3,那么这里就填 llama3 就行了。


Ollama 配置好之后,就可以进入 AI 视频区域:


在视频主题区输入你需要生成的视频主题,点击生成视频文案。



如果有文案生成,那么恭喜你,说明 Ollama 配置完成了。


接下来尽情使用 MoneyPrinterPlus 吧。


点我查看更多精彩内容:www.flydean.com

发布于: 刚刚阅读数: 3
用户头像

关注公众号:程序那些事,更多精彩等着你! 2020-06-07 加入

最通俗的解读,最深刻的干货,最简洁的教程,众多你不知道的小技巧,尽在公众号:程序那些事!

评论

发布
暂无评论
MoneyPrinterPlus全面支持本地Ollama大模型_工具_程序那些事_InfoQ写作社区