首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >在Debian 12上配置Ollama支持局域网访问

在Debian 12上配置Ollama支持局域网访问

原创
作者头像
高老师
修改2025-07-17 11:45:14
修改2025-07-17 11:45:14
3380
举报

在Debian 12上配置Ollama支持局域网访问

步骤一:设置Ollama监听局域网IP

默认情况下,Ollama只监听localhost:11434,需要手动指定监听地址:

临时运行(测试用):

代码语言:bash
复制
OLLAMA_HOST=0.0.0.0 ollama serve

永久生效(推荐):

  1. 创建一个systemd override文件:
代码语言:bash
复制
sudo systemctl edit ollama
  1. 在打开的文件中添加以下内容:Service
代码语言:bash
复制
Environment="OLLAMA_HOST=0.0.0.0"
  1. 保存后执行:
代码语言:bash
复制
sudo systemctl daemon-reexec
sudo systemctl restart ollama

步骤二:放行防火墙端口(默认11434)

如果启用了UFW或iptables,请放行端口:

使用UFW:

代码语言:bash
复制
sudo ufw allow 11434/tcp

使用iptables:

代码语言:bash
复制
sudo iptables -A INPUT -p tcp --dport 11434 -j ACCEPT

步骤三(可选):用Nginx做反向代理解决跨域问题

如果在浏览器中访问Ollama API(如通过前端页面),可能遇到CORS限制。此时可用Nginx做反向代理:

示例配置(/etc/nginx/sites-available/ollama):

代码语言:nginx
复制
server {
    listen 80;
    server_name your-hostname.local;

    location / {
        proxy_pass http://localhost:11434;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        add_header Access-Control-Allow-Origin *;
        add_header Access-Control-Allow-Methods 'GET, POST, OPTIONS';
        add_header Access-Control-Allow-Headers 'Content-Type';
    }
}

启用配置并重启Nginx:

代码语言:bash
复制
sudo ln -s /etc/nginx/sites-available/ollama /etc/nginx/sites-enabled/
sudo systemctl reload nginx

最终访问方式

假设Debian 12机器局域网IP是192.168.1.100,可以通过以下方式访问:

  • 直接访问(无代理): http://192.168.1.100:11434
  • 通过Nginx代理(解决跨域): http://your-hostname.local

如需进一步支持HTTPS或绑定域名,可继续配置Nginx + Let's Encrypt。

补充脚本:方便直接运行的,自动绑定0.0.0.0

代码语言:bash
复制
#!/bin/bash
# /www/wwwroot/ollama/start.sh

LOGFILE="/root/ollama.log"
OLLAMA_HOST=0.0.0.0

echo "[*] 停止 ollama 服务..."
sudo systemctl stop ollama 2>/dev/null
pkill ollama 2>/dev/null

echo "[*] 启动 ollama 服务(后台)..."
nohup /usr/local/bin/ollama serve > "$LOGFILE" 2>&1 &

sleep 2

if pgrep -f "ollama serve" > /dev/null; then
    echo "[✅] ollama 已启动,监听 0.0.0.0:11434"
    echo "[📄] 日志文件:$LOGFILE"
else
    echo "[❌] ollama 启动失败!请查看日志:$LOGFILE"
fi

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 在Debian 12上配置Ollama支持局域网访问
    • 步骤一:设置Ollama监听局域网IP
      • 临时运行(测试用):
      • 永久生效(推荐):
    • 步骤二:放行防火墙端口(默认11434)
      • 使用UFW:
      • 使用iptables:
    • 步骤三(可选):用Nginx做反向代理解决跨域问题
      • 示例配置(/etc/nginx/sites-available/ollama):
      • 启用配置并重启Nginx:
    • 最终访问方式
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档