职位描述
工作职责
1.负责LPU AI编译器及GPU+LPU异构推理软件栈研发,参与编译器、运行时与上层推理引擎开发;
2.开展动态输入、计算图及算子优化,参与算子融合、指令生成与编译器中后端开发;
3.研发异构硬件PD/AF分离推理引擎,设计KV Cache优化及批处理机制,基于智能体技术优化推理吞吐与时延;
4.协同硬件设计与验证团队,完成模型适配、端到端验证及软硬协同性能优化。任职要求
任职要求
1.计算机、电子等相关专业本科及以上,熟悉C++和Python,具备扎实的数据结构与算法基础;
2.熟悉深度学习编译原理,有MLIR、LLVM或AI编译器开发经验者优先;
3.了解GPU或AI芯片架构、存储层次及并行计算,有异构计算或运行时开发经验者优先;
4.熟悉Transformer及矩阵乘法、Attention等核心算子,有推理引擎开发或大模型推理优化经验者优先。