首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >无需公网IP,内网穿透远程访问Ollama+Gemma3模型+Open WebUI教程

无需公网IP,内网穿透远程访问Ollama+Gemma3模型+Open WebUI教程

原创
作者头像
贝锐
发布2025-06-30 14:06:08
发布2025-06-30 14:06:08
9120
举报

本地部署Ollama搭配开源视觉模型Gemma3和Open WebUI,不仅可离线运行强大多模态大模型,还通过图形界面实现便捷交互,兼顾隐私、安全与易用性。

以下是在本地部署Ollama+Gemma3模型+Open WebUI的完整细化流程,适用于Windows环境,后续还可以结合贝锐花生壳进行内网穿透实现远程访问,而且无需公网IP、无需配置路由器,操作非常简单!

一、如何用Ollama部署Gemma3模型?

1.安装Ollama

前往Ollama官网(ollama.com)下载安装包,一键安装,并启动Ollama。

安装完成后打开命令行(CMD或PowerShell),测试是否安装成功:

代码语言:javascript
复制
ollama --version

2.运行Gemma3模型

Gemma3是Google发布的开源视觉/语言大模型系列,使用以下命令即可直接启用,首次运行时会自动下载模型,根据选择的参数大小,可能需要几百MB到几个GB的磁盘空间,下载完成后模型会自动加载。

代码语言:javascript
复制
ollama run gemma3

二、如何用Docker安装安装OpenWebUI?

1.安装Docker

前往Docker官网(www.docker.com)下载安装包,一键安装,并启动Docer。

2.打开命令提示符拉取Open WebUI Docker镜像
代码语言:javascript
复制
docker pull ghcr.io/open-webui/open-webui:main

3.启动容器并绑定Ollama
代码语言:javascript
复制
docker run-d \
 -p 3000:8080 \
 -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
 -v open-webui:/app/backend/data \
 --name open-webui \
 ghcr.io/open-webui/open-webui:main

  • -p 3000:8080:本地开放端口为3000
  • OLLAMA_BASE_URL指向你主机上的Ollama服务地址(Windows下用可直接用host.docker.internal)

成功后,访问本地地址(localhost:3000)会出现类似ChatGPT的页面,左侧模型选择中应可见gemma,可以与模型开始交互。

用花生壳内网穿透映射Open WebUI,实现远程访问

  1. 前往贝锐花生壳官网,根据系统版本下载安装客户端,随后启动花生壳客户端并登录。
  1. 根据客户端界面提示,进入贝锐花生壳云端后台,添加HTTPS/HTTP映射,指向本地3000端口,一键生成固定访问链接。
  1. 远程访问使用贝锐花生壳生成的固定访问链接,即可直接访问到本地部署的Open WebUI。

安全配置建议

  1. 对于Open WebUI等Web类应用,可以开启贝锐花生壳的口令验证,为网页类映射添加额外的验证,阻止未经授权的访问。
  2. 可以优先选择HTTPS方式映射,实现加密传输,贝如花生壳支持一键HTTPS映射,无需本地部署证书。
  3. 如有需要也可以开启贝锐花生壳的精确控制访问权限功能,对允许访问的时间/周期、IP地址/区域、浏览器/系统版本等做出更具体的限制,仅允许特定范围使用。

至此,从模型部署到图形化界面再到远程访问,一整套基于Ollama+Gemma3+Open WebUI的本地AI应用方案已经搭建完成。通过贝锐花生壳内网穿透,不仅打破了公网IP和网络环境的限制,更让你的多模态大模型应用具备了“随时随地、安全可控”的远程访问能力。无论是个人实验、局域网部署,还是企业内部模型调试,这套组合都具备极高的可用性与可扩展性。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一、如何用Ollama部署Gemma3模型?
    • 1.安装Ollama
    • 2.运行Gemma3模型
  • 二、如何用Docker安装安装OpenWebUI?
    • 1.安装Docker
    • 2.打开命令提示符拉取Open WebUI Docker镜像
    • 3.启动容器并绑定Ollama
  • 用花生壳内网穿透映射Open WebUI,实现远程访问
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档