本地部署阿里通义千问 Qwen3:一键远程访问,还能解决 Ollama 安全隐患
这两天,阿里发布了新的开源模型通义千问 Qwen3。本篇内容将手把手带你使用 Ollama+Open WebUI 本地部署开源模型通义千问 Qwen3,并借助贝锐花生壳内网穿透,轻松实现安全远程访问!
相较于直接将服务部署在云端或使用端口映射进行远程访问,贝锐花生壳内网穿透不仅让远程连接更便捷,还能有效防止未经授权的用户擅自访问本地部署的 Ollama,全面保障 AI 资源的私密性与安全性!
一键开启本地部署 Qwen3
首先,访问 Ollama 官网,下载并一键安装 Ollama 客户端。

安装好 Ollama 后,打开命令提示符,参考命令“ollama run qwen3:8b”,下载 Qwen3 模型。

大家可以根据自己电脑的显存大小来挑选合适的参数,4G 显存选 1.5B、8G 选 7B、16G 选 14B,这样能保证模型运行更顺畅。
Ollama 默认仅开启本机访问(无法外部或远程访问)完成上述步骤后,即可在本机通过命令行,或通过 http 请求实现访问,返回以下结果说明已经正常运行。

安装 Open WebUI,实现图形界面交互
除了通过命令行与 Qwen3 交互,我们还可以用 Open WebUI 实现更友好的图形化界面操作。不过在此之前,得先确认电脑上安装并运行了 Docker,要是还没安装,需要去 Docker 官网一键下载安装。

接下来,通过 Docker 部署 Open WebUI,执行以下命令即可快速搭建 :
输入命令:docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always
如果希望通过其他方式部署,大家也可以自行查看 OpenWebUl github 主页的教程。

完成部署后,浏览器访问 127.0.0.1:3000,设置本地管理员账号,即可通过网页交互使用 Qwen3!

利用贝锐花生壳内网穿透,实现安全远程访问
如果想随时随地远程访问本地部署的 Qwen3,可以利用贝锐花生壳内网穿透,简单三步即可部署,轻松实现远程访问。
第一步,先注册一个贝锐账号,然后下载并登录花生壳客户端。

第二步,进入花生壳云管理平台,填写 Open WebUI 局域网 IP 和默认端口 “3000”,并设置安全访问规则。

另外,不同于其他内网穿透,花生壳支持一键使用 HTTPS 加密传输、额外设置网页访问密码实现双重防护,并有访问权限控制、爆破防护等高级防护功能,充分保障 AI 服务器安全!
第三步,完成设置后,点击保存,就会自动生成一个外网访问地址,随时随地安全访问!

评论