效率部-营销服AI大模型训练工程师
📍 重庆市⏱️ 不限🎓 不限 👁️ 2次浏览
薪资面议
岗位职责
1.负责工程化实现,将训练好的模型转化为可被上游系统调用的、稳定可靠的API服务。这包括编写模型的前处理(数据清洗、格式化)、推理调用和后处理(结果解析)代码。
2.负责性能优化,对模型推理服务进行工程优化,重点提升推理时延、吞吐率等关键指标,确保服务的高性能。
3.负责系统设计与部署,设计高可用的微服务架构,处理并发请求,保证服务的稳定性;使用Docker进行容器化封装,并利用Kubernetes等编排工具在云平台上进行部署、扩缩容和管理。