在 2023-07-06 的时候 OpenAI
官方就已经开放了部分 GPT-4
的 API
权限给了部分 API
使用者。
不过当时对于使用者是有部分门槛的,并不是所有的使用者都可以使用,在官方的介绍中是向所有成功支付 1 美元或以上的 API
用户授予 GPT-4 API (8k)
的访问权限,对于一些新的 API
使用者会在 7 月之内进行授权。
今天已经是 7 月的尾巴了,有不少小伙伴也表示自己收到了 GPT-4 API (8k)
访问权限。
要确认自己的 API 有没有 GPT-4
的权限,可以在个人 Rate limits
下面看是否多了 GPT-4
相关的模型,之前如果是没有被授权访问的话,这里是看不到对应 GPT-4
的模型的。
有一些朋友可能是之前先开通了ChatGPT Plus
然后再申请的 GPT-4
的 API
权限,这种的也不会受到影响,而且据说在申请 GPT-4
的 API
权限通过后,再取消 ChatGPT Plus
的订阅也不会影响 GPT-4
的 API
使用。
不知道小伙伴的限制是什么样子的,我这边看到的是 GPT-4
相关的模型不管是在 token
数还是在请求数都被限制的较为严格,从上图中可以看到,TPM
为 10000,RPM
为 200,官方的名词定义如下
RPM (requests per minute)
:每分钟的请求数,超过则模型不再响应
RPD (requests per day)
:每天的请求数
TPM (tokens per minute)
:每分钟的最大 token
数量
不过这个限制目前是默认设置,官方也提到了为什么会作出限制,以及如果想要提升限制的话,可以通过填写申请表进行申请。
一开始看到 GPT-4
的 API
能访问了过后,就迫不及待使用了一下,顺便也想着将能力开放出来给一些朋友用,但是看到群里大家的聊天内容过后,成功被劝退了。
为此去看了一下 GPT-4
和 GPT-3.5
模型收费对比,不看不知道,一看吓一跳,在 input
层面足足是贵了 20 倍,而 output
层面贵了 30 倍,只能说这个游戏有有钱人的游戏,我不配。
不过话说回来 GPT-4
和 GPT3.5
在很大程度上区别并不大,很多时候 3.5 已经可以很好的完成我们的需求了,所以很多时候我们可以只用 GPT-3.5
,在一些拿不准或者要求比较高的场景我们在使用 GPT-4
就好,当然不差钱的小伙伴当我没说就好。
2023 年可谓是大模型元年,国内外各种大模型频出,作为技术人员我们更需要紧随前沿,虽然不要求样样精通,但是最起码也要了解,随时学习紧跟时代的变化,并且要拥抱变化而不是墨守成规。
还没用过 ChatGPT
的小伙伴赶紧去用用,或者去申请一些国内出的比如百度一言,阿里的通义千问,再比如讯飞的星火认知大模型等,先用起来再说。
扫码关注腾讯云开发者
领取腾讯云代金券
Copyright © 2013 - 2025 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号:粤B2-20090059 深公网安备号 44030502008569
腾讯云计算(北京)有限责任公司 京ICP证150476号 | 京ICP备11018762号 | 京公网安备号11010802020287
Copyright © 2013 - 2025 Tencent Cloud.
All Rights Reserved. 腾讯云 版权所有