跳到主内容
matr
[ 私有化部署 ]

私有化部署

模型部署在您的机房或专有云内

当数据不能离开企业边界时,可将模型部署在您的机房或指定云环境内,并按项目约定提供调用接口;接口按 OpenAI 兼容格式设计,兼容范围以 API 文档为准。私有化部署由 matr 数字化转型团队按项目交付。

适合

  • 数据不允许出域的机构
  • 需要满足行业监管或等保要求

不适合

  • 没有机房或运维团队,且数据可以使用公共服务

计费与开通

项目制,按部署规模、模型与运维范围报价。

计费方式
项目制
交付周期
按项目约定
数据位置
企业指定环境
查看价格与计费 →

产品特性

  • 数据、模型与日志留在企业边界内
  • 可沿用模型 API 的调用方式,便于从试点迁移
  • 部署、调优与运维范围按项目约定

典型场景

  1. [ 01 ]

    金融、政企、医疗等有数据不出域要求的场景

  2. [ 02 ]

    已用模型 API 完成验证、准备规模化上线的业务

  3. [ 03 ]

    需要结合内部知识库与业务系统的深度集成

支持的模型

可用模型请通过询价确认。

与其他方式对比

与其他方式对比
按量调用资源包专属吞吐私有化部署
计费方式按实际用量预付,按额度抵扣按预留规格与时长项目制
起订量无按资源包档位按合同约定—
限流模型默认 RPM / TPM与按量调用相同按预留吞吐—
适合用量不确定或波动———
开通方式申请试用额度或咨询开通控制台购买或合同采购评估后开通—
有效期—按档位约定——
交付周期———按项目约定
数据位置———企业指定环境

私有化部署由 matr 数字化转型团队按项目交付。

查看「私有化大模型部署」服务

常见问题

可以,这也是我们建议的路径:先用试用额度验证效果,再按实际负载规划私有化资源。

获取报价

意向使用方式:私有化部署

关注事项

先用试用额度跑通一次调用

告诉我们您的场景与预估用量,我们开通试用额度,并给出模型选型与成本估算。