我们的智能AI客服系统已经对接了多种大模型,包括通义千问和Moonshot
现在GPT大模型或国产大模型有很多,Azure、Anthropic Claude、Google PaLM 2、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,我们需要有一个中间系统来将多种LLM接口转换为兼容OpenAI的接口形式,对外提供一致的调用方法
git clone https://github.com/songquanpeng/one-api.git
create database `oneapi`
该环境变量是数据库的连接信息
在 Windows 中设置环境变量,需要使用管理员运行cmd命令行
setx SQL_DSN "root:123456@tcp(localhost:3306)/oneapi" /m
使用 ~/.bashrc 或 ~/.bash_profile:
打开终端。
使用文本编辑器打开 ~/.bashrc
或 ~/.bash_profile
文件。
在文件末尾添加如下行:
export SQL_DSN="root:123456@tcp(localhost:3306)/oneapi"
保存并关闭文件。
运行 source ~/.bashrc
或 source ~/.bash_profile
使更改生效。
进入web目录
npm install npm run build
也可以本地windows编译后,直接上传到web/build/目录下面
go run main.go
默认监听3000端口
http://localhost:3000
如果有修改前端资源,必须从新编译程序
go build -o oneapi
配置文件中需要增加环境变量
environment=SQL_DSN="oneapi:oneapi@tcp(127.0.0.1:3306)/oneapi"
启动命令需要使用绝对路径
command=/www/wwwroot/one-api/oneapi --port 3001