职位描述
工作内容
负责端侧高性能AI推理框架开发,充分挖掘后端硬件的算力,构建业界性能领先的AI框架;
负责端侧大模型推理框架开发,优化推理性能;
负责业界AI框架技术跟踪调研,以及学术界技术落地可行性分析。任职要求
任职资格
计算机科学、电子工程、网络工程等相关领域本科及以上学历;
熟悉AI领域常见的并行算法,包括但不限于:数据并行、流水线并行、张量并行等训练模式,具备深入的理论和实践经验;
精通常见深度学习框架,包括但不限于TensorFlow、PyTorch、Megatron、Deepspeed等,熟悉其原理并能够快速实现并调试相关算法;
熟悉CUDA计算原理,有CUDA相关算子编程经验;
对大规模预训练模型有较好的了解,了解常见预训练模型(如GPT、BERT等)的训练方法和优化技巧;
有底层算子优化经验或者通信策略优化经验者优先录取。