写点什么

本地部署马斯克开源 Grok-1 大模型,贝锐花生壳 3 步实现远程访问

作者:贝锐
  • 2024-08-16
    上海
  • 本文字数:885 字

    阅读完需:约 3 分钟

在人工智能的领域,除了广受欢迎的在线工具如 ChatGP T、Midjourney 等,还有许多开源且支持本地部署的 AI 工具也值得关注,在满足定制化需求和数据安全方面具有独特优势。结合贝锐花生壳的内网穿透,用户可以轻松实现远程访问这些 AI 工具,无需复杂的网络配置,这对于需要大量算力的模型尤为实用。


比如,马斯克的 xAI 也开源了 Grok-1,这是一个拥有 314B 参数的大型语言模型,如运行 Grok-1 可能需要超过 300G 显存的 GPU。



显然 Grok-1 需要本地高性能服务器/工作站部署,用户远程通过浏览器 Web 界面访问,或是 App、应用程序通过调用 API 等形式进行使用。


然而,对于许多希望利用 AI 工具的用户来说,远程访问这些工具往往面临着公网 IP 获取困难、端口映射繁琐、路由和网关设置复杂等问题。


以开源、支持本地部署的图像生成模型 Stable Diffusion 为例,通过 Stable Diffusion web UI 本地部署后,搭配花生壳内网穿透,简单 3 步就能实现远程浏览器进行访问、使用。



一、客户端安装与登录:用户访问贝锐官网并下载花生壳客户端。安装完成后,注册一个贝锐账号,并登录花生壳客户端。



二、  内网穿透设置:登录客户端后,进入花生壳云端管理平台。点击“内网穿透”选项——选择“添加映射”——选择“网站应用”



对于常见的网站应用,目前花生壳提供 HTTP 和 HTTPS 两种类型可用。


贝锐花生壳 HTTP 映射:可用于搭建 HTTP 协议的站点映射,属于非加密访问,建议搭配访问控制提升网站安全性;


贝锐花生壳 HTTPS 映射:用于创建访问安全加密的站点映射,同时花生壳可自动云端部署证书,本地无需额外申请、设置,非常方便。


三、访问地址生成与使用:根据系统提示,用户需要正确填写相关信息,如 AI 工具的内网地址和端口等。完成设置并保存后,系统会自动生成一个外网访问地址。



用户只需复制这个地址,在远程主机上打开浏览器并输入该地址,即可访问并使用本地部署的 AI 工具,如 Stable Diffusion web UI,进行 AI 绘画创作。



总之,贝锐花生壳以其独特的内网穿透技术和用户友好的操作界面,为 AI 工具的远程访问提供了一种全新的解决方案。无论是企业用户还是个人开发者,都可以利用贝锐花生壳轻松实现 AI 工具的远程使用,推动 AI 技术的创新和应用。

用户头像

贝锐

关注

连接,无处不在 2022-06-30 加入

国产远程连接SaaS服务创领者,贝锐致力于为企业提供安全稳定、专业高效的远程连接解决方案,打造了向日葵远程控制、蒲公英异地组网、花生壳内网穿透等,赋能千行百业。

评论

发布
暂无评论
本地部署马斯克开源Grok-1大模型,贝锐花生壳3步实现远程访问_AI_贝锐_InfoQ写作社区