爱科技、爱创意、爱折腾、爱极致,我们都是技术控
您需要 登录 才可以下载或查看,没有账号?立即注册
x

2月19日,OpenAI发布新闻稿宣布,其最新产品GPT-4 Turbo的处理速率已经翻倍。现在,每分钟可以处理高达150万个token(TPM),而且完全取消了每日限制。 OpenAI为了防止滥用、确保公平性和管理基础架构负载,对企业的API访问进行了速率限制。这种限制可以防止恶意超载应用程序接口,确保所有用户都能公平地获得服务,并通过节流指定时间内允许的请求数量,在高需求期间保持平稳的性能。 需要注意的是,这种速率限制是针对组织级别的,对于个人用户并没有太大影响。速率限制因所使用的模式而异,组织每月在API上所花费的总支出也有“使用限制”。
|