职位描述1.负责CUDA算子的开发适配和性能调优,支持复杂模型在服务器端的训练与推理 2.主导解决定制化算子在训练框架、AI编译工具和部署应用中的问问题,确保算子在GPU、CPU及端侧异构计算平台上的高效计算和稳定兼容 3.跟踪算子领域新技术,根据AI模型发展趋势和硬件特性持续丰富算子库、提升算子性能 4.负责高性能算子的开发与优化,包括CPU、DSP、RVV等异构硬件,优化算子的性能,确保在不同硬件平台上的高效计算,包括但不限于FP32、FP16、FP8、INT16、INT8、INT4等数据类型任职要求基本要求 1.具备丰富的GPU程序开发经验,熟悉CUDA、OpenCL,熟悉GPU加速库,包括并不限于cuBLAS/cuDNN/cutlass 2.熟悉各类深度学习网络和算子底层实现细节,有模型训练、推理调试调优经验 3.具备良好的工程实现能力,熟悉Python、PyTorch与C/C++编程开发发 4.主动学习、良好的沟通能力和团队合作精神 加分项 1.有LLM开发部署经验,熟悉分布式训练、推理加速方法 2.了解AI编译原理、模型量化原理 3.从事过AI软件相关开发,包括AI编译器、AI算子库、AI推理/||练框架开发等 4.熟悉计算机算法与设计模式,有过ACM或其他编程竞赛经历
