职位描述
1. 参与大模型训练和微调的基础软件框架研发;
2. 参与封装自研底层编译器框架和后端多源算子库;
3. 参与实现低开发门槛和用户友好的大模型中间层软件栈。任职要求
1. 计算机基础扎实,熟悉 C/C++ 和 Python,具备系统软件开发架构能力;
2. 了解计算机体系结构以及并行计算基本技术,有 GPU 通用计算研发经验;
3. 有Pytorch、TensorFlow或任意一种大模型训练、微调平台的研发,优化或者模型训练经验。
加分项:
熟悉 Colossal-AI,Ray,Deepspeed 或 Megatron-LM 等大模型分布式训练框架的优先。