openai的chatgpt可以说是第一个开放api接口的大模型,由于出现时间比较早,大部分ai相关的工具也是按照chatgpt的api格式制作的,如果想要换成其他大模型就需要修改解析api的地方,但是这样做就很麻烦。
于是,我们就可以转换思路,将其他大模型的api格式转换为openai的格式
https://github.com/songquanpeng/one-api
本次搭建的东西主要是要长久稳定运行,因此我们这次选择的是腾讯云轻量服务器
正好恰逢双十一,我们来腾讯云双十一会场来选购服务器,或点击这里进入主会场:跳转链接
我们本次使用的是轻量2核2g4m的服务器,搭建oneapi来非常适合,而且只需要36一年,性价比非常高
购买完成后,我推荐大家重装为腾讯云专属宝塔面板,不仅方便系统操作,还有一些专属宫女也会在后期上线,大家可以期待一下
本篇文件就基于腾讯云专属宝塔面板来操作
服务器重装完成之后,我们在服务器控制台选着我们的服务器后在应用管理处按照提示获取我们的面板地址和账号密码
现在的控制台为了安全,默认是不会显示账号密码的,我们先复制下面这条指令,然后点击右侧的登录
sudo /etc/init.d/bt default
输入指令后回车即可获取到我们的宝塔服务器的账号密码,以及登录地址
我们在浏览器输入外网面板地址,输入下面的账号密码即可登录
登录后我们点击左侧的Docker
如果你的服务器是新建的服务器,那么大概率是不自带Docker的,我们点击安装先安装Docker
安装完成后,我们点击上方的线上镜像,搜索one-api,找到 justsong/one-api这一个即可
因为我这里已经拉取了,所以和原先有点不一样,我们点击这个库后面的拉取即可
拉取完毕之后,我们点击创建容器
这里要注意,容器名称随意即可,容器端口一定是要3000,对外随意,如果你想要ip+端口进行访问,我们就勾选对外暴露,反之关闭
完成后点击创建,我们就可以在容器页面下面看见这个容器了
绑定域名非必需,但是建议还是绑定域名
我们点击左侧的网站,新建一个网站,php版本随意即可,或者选择静态
完成后我们点击域名的设置
我们选择反向代理
选择添加反向代理
按照图示的填写,目标url填写127.0.0.1:你的对外端口,然后点击确定即可
完成后,我们访问域名,如果不出问题,我们会直接进入主页
默认的账号密码是root 123456
登录后,我们点击渠道,添加其他大模型
我们这里以Google的gemini为例
模型地方会自动选择,你也可以自定义添加名称
在密钥处输入自己的密钥
然后点击提交
返回渠道页面,我们点击测试可以测试是否成功
如果没问题就如图所示
我们点击上方的令牌
添加新的令牌,输入我们可以使用的模型
完成后,我们点击复制就可以复制我们的openai格式的key了
因为http协议可能存在部分问题,所以我们要绑定域名申请ssl证书
我们在网站设置的ssl中选择Let's Encrypt,然后点击申请证书即可
完成后我们点击保存即可
完成之后,我们可以测试一下是否可以正常使用
我们在令牌页面点击对话
随后我们会自动跳转
点击确认即可
然后我们打开设置
我们修改填写的模型名称即可
填入我们自定义的模型名称
打开新对话我们切换到我们自定义的模型
我们进行询问即可
到这里,我们就可以看出我们转openai格式成功了
同样,我们也可以使用openai接口的各种ai工具了,只需要修改接口和key接口
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。