写点什么

本地部署阿里通义千问 Qwen3:一键远程访问,还能解决 Ollama 安全隐患

作者:贝锐
  • 2025-04-30
    上海
  • 本文字数:924 字

    阅读完需:约 3 分钟

这两天,阿里发布了新的开源模型通义千问 Qwen3。本篇内容将手把手带你使用 Ollama+Open WebUI 本地部署开源模型通义千问 Qwen3,并借助贝锐花生壳内网穿透,轻松实现安全远程访问!

相较于直接将服务部署在云端或使用端口映射进行远程访问,贝锐花生壳内网穿透不仅让远程连接更便捷,还能有效防止未经授权的用户擅自访问本地部署的 Ollama,全面保障 AI 资源的私密性与安全性!

一键开启本地部署 Qwen3

首先,访问 Ollama 官网,下载并一键安装 Ollama 客户端。



安装好 Ollama 后,打开命令提示符,参考命令“ollama run qwen3:8b”,下载 Qwen3 模型。



大家可以根据自己电脑的显存大小来挑选合适的参数,4G 显存选 1.5B、8G 选 7B、16G 选 14B,这样能保证模型运行更顺畅。

Ollama 默认仅开启本机访问(无法外部或远程访问)完成上述步骤后,即可在本机通过命令行,或通过 http 请求实现访问,返回以下结果说明已经正常运行。



安装 Open WebUI,实现图形界面交互

除了通过命令行与 Qwen3 交互,我们还可以用 Open WebUI 实现更友好的图形化界面操作。不过在此之前,得先确认电脑上安装并运行了 Docker,要是还没安装,需要去 Docker 官网一键下载安装。



接下来,通过 Docker 部署 Open WebUI,执行以下命令即可快速搭建 :

输入命令:docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always

如果希望通过其他方式部署,大家也可以自行查看 OpenWebUl github 主页的教程。



完成部署后,浏览器访问 127.0.0.1:3000,设置本地管理员账号,即可通过网页交互使用 Qwen3!



利用贝锐花生壳内网穿透,实现安全远程访问

如果想随时随地远程访问本地部署的 Qwen3,可以利用贝锐花生壳内网穿透,简单三步即可部署,轻松实现远程访问。

第一步,先注册一个贝锐账号,然后下载并登录花生壳客户端。



第二步,进入花生壳云管理平台,填写 Open WebUI 局域网 IP 和默认端口 “3000”,并设置安全访问规则。



另外,不同于其他内网穿透,花生壳支持一键使用 HTTPS 加密传输、额外设置网页访问密码实现双重防护,并有访问权限控制、爆破防护等高级防护功能,充分保障 AI 服务器安全!

第三步,完成设置后,点击保存,就会自动生成一个外网访问地址,随时随地安全访问!



用户头像

贝锐

关注

连接,无处不在 2022-06-30 加入

国产远程连接SaaS服务创领者,贝锐致力于为企业提供安全稳定、专业高效的远程连接解决方案,打造了向日葵远程控制、蒲公英异地组网、花生壳内网穿透等,赋能千行百业。

评论

发布
暂无评论
本地部署阿里通义千问Qwen3:一键远程访问,还能解决Ollama安全隐患_AI_贝锐_InfoQ写作社区