[ 加入 matr ]
大模型推理服务运维工程师
- 部门
- 平台运维
- 地点
- 南京
- 类型
- 全职
- 级别
- 中级及以上
- 薪资说明
- 面议
- 招聘人数
- 1
岗位职责
- 负责大模型推理服务的部署、扩缩容与日常运维
- 建设限流、计量与监控告警体系，维持 API 服务稳定
- 参与推理性能优化（批处理、缓存、量化）与容量规划
- 处理线上故障并输出复盘报告
- 编写运维文档与自动化脚本
任职要求
- 3 年以上运维或 SRE 经验
- 熟悉 Kubernetes 与容器运行时
- 了解 GPU 驱动与主流开源推理框架者优先
- 有 API 网关、计量计费或监控体系建设经验者优先
- 良好的沟通与文档能力
投递简历
大模型推理服务运维工程师