[ 动态与洞察 ]
动态与洞察
公司动态、行业观察与技术实践
动态与洞察
- 技术分享
技术分享:用上下文缓存与模型分级控制调用成本
在不影响效果的前提下,从提示词结构、缓存命中与模型分级三处控制 Tokens 成本。
- 公司动态
模型广场新增推理、代码与向量类模型
新一批模型接入模型广场,接口按 OpenAI 兼容格式设计(兼容范围以 API 文档为准),按百万 Tokens 计价,参数与价格逐项公开。
- 行业洞察
行业洞察:制造企业落地视觉质检的三个前置条件
数据、节拍与复核流程——在谈模型之前,先确认这三件事。
- 技术分享
技术分享:私有化大模型部署的推理成本优化实践
从量化、批处理到缓存策略,我们在多个项目中把推理单位成本压到可接受区间的做法。
- 公司动态
matr 与某高校成立 AI 应用联合实验室
双方将围绕行业智能体与模型服务调度开展联合研究与人才培养(合作方以匿名方式呈现)。
- 技术分享
政企知识库建设中的权限与审计设计要点
政企知识库真正的难点不在检索,而在权限模型与审计闭环。