首页
学习
活动
专区
圈层
工具
发布

#gateway

为什么企业部署本地大模型后,仍然需要云端模型?

taohui

不少企业接入大模型走到一定规模后,都会做同一个决定:把 DeepSeek、Qwen、GLM 这类开源模型部署到自己的 GPU 集群上。理由很直接——数据不出内网...

3900

企业为什么不能把大模型 API Key 直接发给业务系统?

taohui

对于一个 Demo 或者单人小项目,这样做完全没问题——简单、直接、几分钟就能跑通。

12710

nginx显示静态html爆502 bad gateway的错误提示

用户12023652

server {         listen       80;         server_name  dev.lanmin.top; #改你绑定的域名 ...

7510

OpenClaw Gateway 升级后启动失败排查手记

heidsoft

OpenClaw 从旧版本升级到新版(2026.7.x)后,Gateway 服务通过 launchd 管理,启动后反复崩溃、无法监听端口。launchd 显示状...

14600

从架构决策看 Envoy AI Gateway 的产品定位

baiyutang

LiteLLM 五分钟能跑起来,One-API 一条 docker 命令搞定。而 Envoy AI Gateway 的生产部署要求你:先有 Kubernetes...

12710

飞书对接-Agent网关架构分析

会飞的风

一个 IM 机器人真正的复杂度,不在"收到消息 → 调 LLM → 回消息"这条主干,而在于:飞书这套协议是异步、有状态、会重投、会限流、要加密、要审批、要刷 ...

23100

OpenClaw Gateway:AI Agent 的中枢神经系统

唐国梁Tommy

你的 AI 助手同时连接着 Telegram、Discord、Slack、微信……一条消息从 Telegram 进来,AI 思考后需要回复,中间还要调用浏览器去...

27000

用 SDD 方法开发一个 AI Gateway

用户5602664

企业用大模型,四个问题绕不开:谁在调模型?敏感数据有没有出内网?花了多少钱?出事怎么查?AI Gateway 做的就是在客户端和上游模型之间插一层治理层,把这四...

14310

从低权限 Key 到 AI Gateway 接管:LiteLLM 漏洞链完整剖析

云鼎实验室

腾讯 | 安全实验室 (已认证)

近日,LiteLLM 被披露存在多处高危安全风险。我们在授权本地环境中对相关漏洞进行了复现验证,确认攻击者在获取低权限用户凭据后,可能沿着“虚拟 Key 路由权...

72710

SGLang Model Gateway 0.2 发布:企业级一体化AI原生编排

用户11563501

市面上有不少 GPU 内核和推理引擎优化项目,也有从传统云原生进化来的 AI 网关,但一体化AI原生的编排解决方案却几乎没有。实际生产部署时,大多是开发者自己拼...

15310

Arch Gateway: AI Gateway的前瞻选择

用户11563501

AI Agent 的开发路径通常是这样的:我们可以在一到两天内快速构建一个原型应用,然后接着为了满足更多需求以及达到生产可用的要求,系统很快变得复杂难以维护。

13910

AI网关(AI Gateway)详解,远比你想象的要复杂

匙亮旭

网关这个词相信大家并不陌生,简单理解就是流量的出入口。随着业务和技术的发展更替,网关也从最早期的单纯做一个反向代理的流量网关,进化到了后来更复杂的微服务网关和云...

51610

云端AI IDE架构:Client、Gateway、Agent、Executor、Storage

安全风信子

作者: HOS(安全风信子) 日期: 2026-05-25 主要来源平台: GitHub 摘要: 云端AI IDE将传统本地集成开发环境完全迁移至云端服务...

46610

AI Gateway:模型路由与推理优化

安全风信子

作者: HOS(安全风信子) 日期: 2026-05-25 主要来源平台: GitHub 摘要: AI Gateway是AI IDE与大模型交互的核心枢纽...

43810

Kubernetes Gateway API 完全指南

小陈运维

Kubernetes Gateway API 是一个面向服务的、可扩展的 Kubernetes 流量管理标准,由 SIG-NETWORK 社区维护。它是 Ing...

34810

Kubernetes Gateway API 完全指南

小陈运维

Kubernetes Gateway API 是一个面向服务的、可扩展的 Kubernetes 流量管理标准,由 SIG-NETWORK 社区维护。它是 Ing...

43320

高校物联网教学新选择:EdgeLite Gateway让实验课更贴近工业实战

用户6260357

Gitee(国内推荐):gitee.com/suoten/EdgeLiteGateway

38110

工业物联网网关选型:EdgeLiteGateway vs 传统方案全面对比

用户6260357

在工业物联网项目中,网关是连接现场设备与云端平台的核心组件。市面上的方案主要分为三类:

44210

树莓派变身工业级物联网网关:开源项目EdgeLiteGateway完全指南

用户6260357

EdgeLiteGateway 是一个轻量级、开源、Python全栈的边缘计算物联网网关。

86310

OpenClaw Gateway 服务:启动、停止、监控

七夜zippoe

本文深入探讨 OpenClaw Gateway 服务的核心架构与运维实践。作为 OpenClaw 框架的中枢神经,Gateway 承担着消息路由、会话管理、安全...

2K20
领券