职位描述
工作职责：
1.参与分布式大模型训练任务的通信优化，包括NCCL\HCCL等集合通信库的研发和测试；
2.参与分布式训练任务中的通信性能分析，识别性能瓶颈，解决高并发、高可靠和高可扩展等需求；
3.参与分布式大模型推理任务的通信优化，包括RPC通信库的研发和测试；
4.参与大模型训练和推理系统的通信相关前瞻技术分析和导入，如超节点与光互联技术，并与算法框架联合优化。
工作要求：
1.高性能计算、计算机体系结构、分布式系统或人工智能相关专业本科或研究生在读；
2.良好的技术沟通及协作能力；
3.优秀的代码功底，编程能力和数据结构基础扎实，熟练掌握Python、C/C++，RDMA，具备系统开发落地能力;
4.熟悉NVIDAI NCCL库、PyTorch Distributed相关通信原语以及MPI通信原语等。
允许3个月内投递4个职位，请选择适合的职位进行投递
立即投递
