职位解读

AIGC推理框架研发工程师-27届是寒武纪在北京发布的软件类-校招岗位,薪资范围薪资面议。该岗位对经验要求相对开放,工作地点位于北京。寒武纪作为人工智能芯片企业,其招聘节奏侧面反映该行业在北京的人才需求热度。面试准备阶段,建议提前了解该岗位的业务场景与团队结构,并准备与目标行业相关的实操案例。岗位职责包括:参与分布式推理系统建设,提供行业领先的LLM/多模态模型解决方案; 针对大语言模型(LLM)、视觉生成(如Diffusion Models)等场景,开展端到端推理性能优化,重点降低推理延迟、提升吞吐量; 深度优化推理框架,提升框架在异构硬件上的扩展性与易用性; 开发自动化性能分析。任职要求为:计算机、电子工程、自动化、数学、物理等相关专业优先; 有PyTorch/C++/Python编程经验; 有AI模型的训练/部署经验; 了解LLM或者视觉生成模型原理; 了解量化、kvcache、多机多。

AIGC推理框架研发工程师-27届

北京 8次浏览 0人投递
职位来源:招聘平台 · 查看原职位 ↗
薪资面议

岗位职责

参与分布式推理系统建设,提供行业领先的LLM/多模态模型解决方案; 针对大语言模型(LLM)、视觉生成(如Diffusion Models)等场景,开展端到端推理性能优化,重点降低推理延迟、提升吞吐量; 深度优化推理框架,提升框架在异构硬件上的扩展性与易用性; 开发自动化性能分析工具,实现推理瓶颈的快速定位与优化建议生成。

职位要求

计算机、电子工程、自动化、数学、物理等相关专业优先; 有PyTorch/C++/Python编程经验; 有AI模型的训练/部署经验; 了解LLM或者视觉生成模型原理; 了解量化、kvcache、多机多卡并行等加速技术。 加分项: 1具备CUDA/BANGC等异构编程经验,有GPU/加速卡调优实践经验; 有开源仓库的贡献经验; 了解torch.compile/CUDAGraph/Triton; 具备以下任意领域的实战经验; 大模型推理框架:vLLM/SGLang/FasterTransformer/TensorRT-LLM; 视觉生成系统:Diffusers/ComfyUI/xDiT; 强化学习:verl等。 注:本岗位设置笔试环节,请留意邮件及短信通知。

还没有该企业的面试经验,快来补充第一份面经~

我来分享面试经验
AIGC推理框架研发工程师-27届
薪资面议