职位描述
1、深度参与生数多模态和视频生成大模型的基础设施建设;
2、负责大规模集群中训练/推理的性能优化,整体系统稳定性、易用性、可运维能力和可观测能力的建设;
3、与算法、工程、产品团队深度协作,针对业务场景进行联合优化。任职要求
1、扎实的深度学习理论基础,深入理解各类深度学习模型结构及其训练推理特性,对性能优化有敏锐直觉,对精度对齐有sense,具备大模型infra系统级优化能力;
2、熟练Python/C++编程,既能够从微观层面编写高效kernel,又可从系统层面设计框架架构,具备出色的工程实践能力和代码质量把控能力;
3、熟悉pytorch源码, 分布式基本特性
4、熟悉Triton, Tilelang, cutlass等GPU算子编程框架;
5、熟悉nvidia最新GPU特性(tma, cluster cta, tcgen05);
6、熟练使用agent, 从第一性原理出发解决问题;
7、有代码洁癖者优先。