Ivyea Jobs 14753 roles · 250 companies · 刚刚 帮公司接 AI
启元机器人 · 具身智能

端侧大模型部署与推理优化工程师(具身智能方向)

上海 校招 · 正式 推理 / 部署具身 / 机器人 算法

职位描述

1. 完成 PyTorch 模型到 ONNX、TensorRT、ONNX Runtime、RKNN 等目标推理引擎的转换、适配和数值验证。 2. 负责 FP16、INT8/INT4、PTQ/QAT、剪枝和蒸馏等优化,平衡任务效果、时延、内存和功耗。 3. 对视觉编码器、语言模型、KV Cache、导航策略、数据预处理和后处理进行端到端 Profiling。 4. 优化算子、数据搬运、内存复用、零拷贝、CUDA Stream、异步流水线及多模型并发调度。 5. 将模型封装为 ROS 2 节点或本地推理服务,建设模型版本管理、性能回归和长时间稳定性验证流程。

任职要求

1. 计算机、电子、人工智能等相关专业硕士及以上,具有模型部署、推理引擎或嵌入式 AI 经验。 2. 熟练掌握 C++、Python、Linux;深入掌握 TensorRT、ONNX Runtime、RKNN、QNN/SNPE、TVM 中至少一条部署链路。 3. 理解 CNN、Transformer、LLM/VLM 的主要计算与内存瓶颈,能够进行性能分析。 4. 交付过真实端侧项目,能够用 P50/P95 时延、峰值内存、功耗、吞吐和任务精度说明优化结果。 加分项: 具备 Jetson Orin、Rockchip 或国产 NPU 经验;熟悉 CUDA、自定义算子、TensorRT-LLM;有流式多模态、VLA 实时策略、Action Chunking 或机器人多模型调度经验。
启元机器人去官方页面投递 →