职位描述
1、与框架同事对接算子需求,对runtime提出改进意见;
2、完成算子的性能建模,给出开发方案;
3、独立完成算子的开发、性能优化、单测等,编写算子文档和质量文档;
4、完善算子开发和性能优化流程和工具。任职要求
1、有至少一种AI ASIC 芯片算子开发调试3-5年的经验,熟练C++/C/python编程;
2、熟悉 MLA/MLP/Attention/sage-attention/Sparse-Linear Attention/DSA等算子的计算逻辑;
3、有在分布式推理框架中,对上述算子针对特定硬件平台进行性能建模的经验;
4、对8bit/4bit量化算子有开发经验;
5、熟悉算子与vLLM/SGLang/Torch等框架的对接使用,有系统级性能分析的经验;
6、对特定指令集有深入理解。