职位描述
职位描述
1. 基于自研芯片, 开发与定制化混合并行、高性能AI大模型训练/推理框架
2. 调研最新技术和大模型训练/推理框架，实现超大规模分布式策略，持续提升框架的性能
3. 协同上下游团队分析并解决模型中遇到的大模型分布式训练/推理的精度、性能问题任职要求
任职资格：
1. 计算机、电子、数学及相关专业，3年以上相关工作经验；
2. 熟悉NLP、CV相关的算法和技术，熟悉大模型训练/推理各种分布式策略
3. 熟悉Deepspeed/Megatron/Colossal-ai/FSDP/Horovod等任意一种框架优先
4. 具备分布式训练或HPC基础知识，了解集合通信和CUDA编程优先
5. 有机器学习平台开发和深度学习框架开发等领域开发经验
6. 有Nsight System、DLProf等工具使用经验
