体验 MMGPT 本地部署 (上)

克隆项目

git clone https://github.com/open-mmlab/Multimodal-GPT.git

创建一个新的虚拟环境

cd Multimodal-GPTconda env create -f environment.yml

运行完成后，会自动帮我们创建一个名为mmgpt的虚拟环境，我们先激活这个环境

conda activate mmgpt

下载 OpenFlamingo 预训练模型

官方链接：openflamingo/OpenFlamingo-9B · Hugging Face

下载前，你需要注册一个账号，并且要安装好 git-lfs。

我们需要将下载好的模型保存在 checkpoints 这个文件夹，因此我们直接在这个文件夹下面 clone 就好了

cd checkpointsgit clone https://huggingface.co/openflamingo/OpenFlamingo-9B

由于比较费时间，我们可以同时进行多个任务

下载LoRA 权重文件

地址：https://download.openmmlab.com/mmgpt/v0/mmgpt-lora-v0-release.pt

mv /Users/tango/Downloads/mmgpt-lora-v0-release.pt /Volumes/T7/GPT_Work/Multimodal-GPT/checkpoints

下载llama-7b_hf

git clone https://huggingface.co/decapoda-research/llama-7b-hf

上述三个项目(文件)根据网速的不同，花费时间也不同，我这边总共用了两个小时左右，因此建议大家在一个网络环境相对稳定的环境执行。

另外它们会在展开对象中这个步骤等很久，不要担心，就是慢而已。

下载好后的目录：

今天的内容暂时就是这些，目前在 Mac M1 上启动好像还有点问题，等和官方确认好原因后和大家继续分享，如果你是 windows 用户，这里应该可以正常启动的。欢迎大家分享一下体验后的感想。

我是 Tango，一个热爱分享技术的程序猿我们下期见，如果本文对你有所帮助欢迎转发给你的朋友。