职位描述
1、负责基于昆仑芯的AI业务落地, 根据客户需求完成适配和性能优化工作
2、负责主流训练推理框架适配、新模型适配及优化、算子开发等
3、跟踪前沿模型及社区演进, 探索新一代AI芯片编程模型和架构任职要求
1、精通C++/Python编程,具备扎实的计算机体系结构及算法基础, 熟练掌握GDB/Nsight等调试与性能分析工具
2、深入理解 GPU 架构、CUDA 编程与并行计算优化,具备高性能算子开发与模型加速经验优先
3、熟练掌握推理框架vLLM/sglang等 ,熟练掌握模型蒸馏、稀疏化、量化,有推理框架及PyTorch调优经验的优先
4、有LLM、VLM、世界模型等推理部署及优化经验的优先