职位解读
系统训练优化师是厦门耦合感知技术有限公司在厦门同安发布的通用岗位,薪资范围15-20K。该岗位要求1-3年经验、本科学历,工作地点位于厦门同安。厦门耦合感知技术有限公司作为相关企业,其招聘节奏侧面反映该行业在厦门的人才需求热度。面试准备阶段,建议提前了解该岗位的业务场景与团队结构,并准备与目标行业相关的实操案例。岗位职责包括:1. 训练框架优化:基于PyTorch、Megatron-LM、DeepSpeed等框架进行二次开发,优化数据加载、梯度同步、Checkpoint保存等环节 2. 分布式训练加速:设计并优化数据并行、模型并行(张量/流水线/序列并行)、ZeRO优化器策略,降低通信开销,提高线性扩。任职要求为:1. 精通Python、C++,熟悉PyTorch源码或DeepSpeed/Megatron内部机制 2. 深入理解分布式训练原理(AllReduce、Ring、通信拓扑、同步/异步模式) 3. 掌握。
15K-20K
岗位职责
1. 训练框架优化:基于PyTorch、Megatron-LM、DeepSpeed等框架进行二次开发,优化数据加载、梯度同步、Checkpoint保存等环节
2. 分布式训练加速:设计并优化数据并行、模型并行(张量/流水线/序列并行)、ZeRO优化器策略,降低通信开销,提高线性扩展比
3. 算子与Kernel开发:针对GPU(NVIDIA H/B系列、昇腾等)编写高性能CUDA/Triton算子,优化前向/反向计算效率
4. 资源调度与稳定性:参与训练集群调度系统设计,实现动态资源分配、故障容错、断点续训,提升集群有效算力占比
5. 性能分析与Profiling:使用Nsight、torch.profiler等工具定位训练瓶颈(IO、通信、计算、内存)
职位要求
1. 精通Python、C++,熟悉PyTorch源码或DeepSpeed/Megatron内部机制
2. 深入理解分布式训练原理(AllReduce、Ring、通信拓扑、同步/异步模式)
3. 掌握CUDA编程,能独立开发高性能Kernel,熟悉GPU架构与显存管理
4. 有大规模分布式训练(千卡以上)实战经验,能定位通信死锁、显存溢出、负载不均等问题
还没有该企业的面试经验,快来补充第一份面经~
我来分享面试经验系统训练优化师
15K-20K