详细解释
使用配额(Usage Quota) 是”闸门”概念的统称:既有服务商主动给你定的配额上限(如 Usage Tier 决定的月消费上限),也有你自己给单个 Key/项目定的软配额(自定义 消费上限)。
Rate Limit(速率限制)管的是”短期流量有多快”;Quota 管的是”长期总量有多少”。举个开车的比喻:
- Rate Limit = 超速摄像头:瞬时速度不能超过 120 km/h
- Quota = 油箱油量 / 里程包月:你这趟旅程总里程不能超过 X
Quota 常见的 5 个维度
| 配额维度 | 通常含义 | 典型应用 |
|---|---|---|
| 月度消费金额 (Monthly Budget) | 一个月最多花 $X | 企业部门预算控制 |
| 每日请求数 (RPD) | 一天最多发 Y 次请求 | 免费档/个人开发者 |
| 每日 Token 数 (TPD) | 一天最多跑 Z Token | 大模型厂商免费档 |
| 单 Key 并发数 | 某个 Key 的并发上限 | 给第三方合作伙伴分 Key 时防滥用 |
| 项目级预算 | 单个 Project ID 的月消费 | 多项目账号独立核算 |
企业怎么做配额管理
企业账号通常不是一个 Key 管全公司,而是分层:
组织账号 Org
├── 主配额(月度总额度,由财务签)
│ ├── 项目 A 子配额:$5,000 / 月(线上服务)
│ │ └── 生产 Key 1:并发 500 + RPM 5,000 + 每日 $200
│ │ └── 预发 Key 2:并发 50 + 每日 $20
│ ├── 项目 B 子配额:$3,000 / 月(AI 助手)
│ │ └── ……
│ └── 研发团队公共配额:$1,500 / 月
唯元智创(Weimeta)聚合平台在上述 5 个维度都支持自定义配额,并且支持配额层级继承与告警:某个 Key 或项目用满后会自动熔断,不会影响其他项目和主账号资金。同时支持飞书/企业微信/钉钉 Webhook 推送,在 80%、95%、100% 三个时点自动发通知。
常见问题
配额用满了还能临时上调吗?
自定义的软配额随时可调(控制台 1 分钟生效);服务商强制的层级配额需要充值解锁下一档,或联系销售走企业合同定制。建议高峰活动前 1 周提前申请。