首页
学习
活动
专区
圈层
工具
发布
首页标签深圳同盟

#深圳同盟

荒天帝炼大模型网关-第1境-搬血境-狻猊宝术-Demo逆向筑基

李福春

我是老李。上周接手的活儿很具体:一个 Java 轻量级 LLM Gateway 项目,起点是仓库里那份 open-api.zip,团队明确要求不重新造骨架,先在...

3600

荒天帝炼大模型网关-第2境-洞天境-柳神法-工程脱胎换骨

李福春

我是老李。第 1 境我把 open-api.zip 解开,一个目录一个目录地读完它的启动类、配置文件和 Controller,确认它是一份能跑通的 OpenAI...

3100

荒天帝炼大模型网关-第3境-化灵境-原始真解-领域本体重塑

李福春

我是老李,这个系列一路写下来,基座是 GitHub 上 litellmgateway 仓库 open-api.zip 那份 Demo。前两境干的事很朴素:先把 ...

1100

荒天帝炼大模型网关-第5境-列阵境-六道轮回天功-网关流水线列阵

李福春

我是老李。这个项目的底座是 lifuchun522/litelmgateway 仓库里 open-api.zip 那份 Demo,前面四境已经走完:逆向、换包名...

1600

荒天帝炼大模型网关-第6境-尊者境-鲲鹏宝术-Provider统一接入

李福春

我是老李。前一境刚把 Gateway Pipeline 编排起来,链路中间有一个 invoke 节点,里面写死了一个 OpenAI 的 URL。当时觉得无所谓,...

1500

荒天帝炼大模型网关-第7境-神火境-雷帝宝术-智能路由点火

李福春

我是老李,在深圳做后端架构。过去半年,我一直在把一套 LiteLLM 风格的网关从 Demo 往生产推。前面几个阶段,我们把 Demo 逆向完、项目名和包名换掉...

2700

荒天帝炼大模型网关-第8境-真一境-真龙宝术-模型部署归一

李福春

我是老李,在深圳做了十来年后端,最近拿 litellmgateway 的 open-api.zip Demo 做逆向(https://github.com/li...

2800

荒天帝炼大模型网关-第9境-圣祭境-轮回宝术-失败重试轮转

李福春

我是老李,做过几年交易系统的稳定性,现在在做一套 Java 轻量级 LLM Gateway。项目基线是 litellmgateway 仓库里那份 open-ap...

3100

荒天帝炼大模型网关-第10境-天神境-真凰不死身-熔断涅槃恢复

李福春

我是老李。上一章做完 Retry/Fallback 之后,网关确实不会再因为单个上游抖动就整体失败了,日志里也能看到请求在 Deployment 之间轮转。但轮...

2900

荒天帝炼大模型网关-第11境-虚道境-蛄族宝术-VirtualKey控域

李福春

我是老李,一直在做 Java 后端和网关方向。最近我们在 litellmgateway/open-api.zip Demo 上继续演进,前几章已经把 Provi...

2500

荒天帝炼大模型网关-第12境-斩我境-天角蚁宝术-限流预算治理

李福春

我是老李,做 Java 后端很多年,这两年一直在把 LLM Gateway 从 Demo 往生产推。前面十一境把协议、路由、重试、熔断都跑通了,但控制面还是个空...

3900

荒天帝炼大模型网关-第13境-遁一境-不灭经-配置持久不灭

李福春

我是老李,最近在把 litellmgateway/open-api.zip Demo 改造成 Java 轻量级 LLM Gateway。前面第12境已经把 RP...

1500

荒天帝炼大模型网关-第14境-至尊境-金璇波纹功-计量成本归一

李福春

我是老李。前面十三境,我们基于 litellmgateway 的 open-api.zip Demo 一路换骨:改包名、立本体七模型、固化 OpenAI 兼容协...

2900

荒天帝炼大模型网关-第15境-真仙境-八九天功-中文控制台统御

李福春

我是老李。这套 Java 轻量级 LLM Gateway 是从一份 open-api Demo 上长出来的:先逆向 Demo 摸清骨架(狻猊宝术),再换项目名与...

1900

荒天帝炼大模型网关-第16境-仙王境-草字剑诀-可观测斩链

李福春

我是老李。手上这套东西的起点,是 litellmgateway 仓库 open-api.zip 里的那个 Demo:一个 Controller 收下 ChatC...

3100

荒天帝炼大模型网关-第17境-准仙帝-第三至尊术-高级策略增幅

李福春

我是老李。前面十六境,我们把这套 Java 轻量级 LLM Gateway 从 litelmgateway 的 open-api.zip Demo 一步步逆向出...

2200

荒天帝炼大模型网关-第18境-仙帝境-他化自在法-云上生产封帝

李福春

我是老李。前面我们已经把 Java LLM Gateway 从 Demo 逆向、包名迁移、Provider 适配、Route 选择、Fallback、Usage...

2100

13太保玩转github-第7太保-李嗣恩-Issue治理

李福春

我是老李,这几年一直把开源仓库当工程系统来养,springaialibabapractice 就是我的试验田。项目本身是 Spring AI 与阿里云能力的练习...

1711

13太保玩转github-第8太保-李存璋-Actions自动化

李福春

我是老李,springaialibabapractice 这个仓库从第 01 太保一路推到第 08 太保,分支越开越多,人还是那几个人。

1610
领券