Ivyea Jobs 5948 roles · 69 companies · 刚刚
元象XVERSE · 大模型

推理后台开发工程师

深圳 社招 · 全职 工程开发

职位描述

1. 负责深度学习推理后台系统设计、开发与迭代,保障系统高可用、高性能,支撑推理服务落地; 2. 负责推理框架、算子研发与性能调优,推进模型量化、压缩等部署优化; 3. 探索GPU硬件加速技术,对接业务协同解决推理开发、部署中的技术难题。

任职要求

任职资格 1. 精通C/C++、Go,扎实掌握数据结构与算法,具备良好编码规范; 2. 具备计算机体系结构基础,熟悉ARM NEON指令、GPU优化,有CUDA并行加速开发经验者优先; 3. 了解深度学习原理,熟悉TensorRT、ncnn等推理引擎,具备算子实现与优化能力; 4. 精通模型量化、压缩等部署优化技术,有推理优化落地经验者优先; 5. 具备良好沟通协作能力、责任心,能承担工作压力,主动解决技术问题。 加分项 1. 有深度学习训练加速、多机多卡训练及训练框架优化经验; 2. 有大规模推理集群部署、运维及调优,或开源推理框架开发贡献经验。