[ 专属吞吐 ]
专属吞吐
为高并发业务预留推理资源
专属吞吐为指定模型预留推理资源，规格、计费周期与服务等级以合同约定为准。适合峰值稳定、对限流与响应波动敏感的生产业务。
适合
- 生产环境的高并发业务
- 需要把服务等级写入合同的对外服务
不适合
- 日调用量很小的业务
- 仍在模型选型阶段
产品特性
- 为指定模型预留推理资源
- 按预留规格与时长计费，便于预算
- 服务等级按合同约定
- 沿用同一套接口与模型 ID
典型场景
- [ 01 ]
面向终端用户的高并发对话产品
- [ 02 ]
有固定峰值的批量处理任务
- [ 03 ]
对响应稳定性有合同要求的业务系统
支持的模型
常见问题
提升限流是在默认资源上调整限额；专属吞吐为指定模型单独预留推理资源。两者的具体规格以方案评估与合同为准。