Ivyea Jobs 14657 roles · 250 companies · 刚刚 帮公司接 AI
松延动力 · 具身智能

具身模型部署工程师

职位描述

我们正在寻找一位模型部署工程师,负责将世界模型、VLA、运动控制算法等前沿模型高效落地端侧平台上,打通从训练到生产推理的“最后一公里”。 工作职责 1. 负责世界模型、VLA、运动控制算法等前沿模型在端侧平台的部署与深度调优,覆盖数据中心 GPU 与 Orin/Thor 等边缘设备,熟练搭建 TensorRT、TensorRT-LLM、Triton 推理链路。 2. 主导模型压缩与推理加速,包括但不限于多精度量化(FP16/BF16/INT8/FP8,PTQ/QAT)、知识蒸馏、算子融合、KV Cache 优化、投机解码、张量并行与流水线并行等,在精度允许范围内最大化吞吐、最小化延迟。 3. 建设部署工具链,负责模型格式转换(ONNX 等)、自动化精度回归流程、性能基准测试与剖析(使用 Nsight 等工具),形成可复用的优化方法论。 4. 与算法团队紧密协作,从模型结构设计阶段即评估部署友好性(关注自定义算子、动态形状、时序结构等),将硬件约束反哺到训练侧,提升最终部署效率。 5. 跟踪端侧推理技术栈与硬件演进,主动评估并引入新框架、新特性,保持在推理加速领域的技术领先性。

任职要求

1. 计算机或相关专业本科及以上学历,拥有 3 年以上模型部署或推理优化实战经验。​ 2. 对 NVIDIA 推理栈(TensorRT / TensorRT-LLM / Triton 等)有深入实践,具备从 0 到 1 完整交付真实项目的经历。​ 3. 模型基础扎实,深刻理解 Transformer 与扩散架构,熟悉注意力、采样器等核心算子的计算特性。​ 4. 精通 PyTorch,对 ONNX 导出及其常见陷阱(动态 shape、自定义算子、控制流)有丰富处理经验。​ 5. 能熟练运用 Nsight Systems/Compute 等工具进行性能剖析,精准区分计算受限、访存受限、发射延迟等瓶颈,并给出针对性优化方案。​ 6. 具备 C++/CUDA 开发能力,有自定义算子编写或 kernel 性能调优的实操经验。​ 7. 拥有严谨的精度验证方法论,能够进行量化/半精度改造后的逐层对齐与端到端指标回归。​ ​ 加分项​ · 直接参与过世界模型、VLA、视频生成、VLM 等任一方向的部署落地,理解此类模型的特殊挑战:长序列时序建模、多模态输入、自回归与扩散混合架构、动作输出头对极低延迟的苛刻要求等。​ · 有机器人/具身智能场景的边缘侧部署经验,深刻理解实时控制链路对推理延迟与抖动的严苛约束。
松延动力去官方页面投递 →