Ivyea Jobs 3771 个在招 · 54 家公司 · 更新于 刚刚
澜舟科技 · 大模型

推理优化工程师

北京 社招 推理 / 部署优化

职位描述

工作内容 负责端侧高性能AI推理框架开发,充分挖掘后端硬件的算力,构建业界性能领先的AI框架; 负责端侧大模型推理框架开发,优化推理性能; 负责业界AI框架技术跟踪调研,以及学术界技术落地可行性分析。

任职要求

任职资格 计算机科学、电子工程、网络工程等相关领域本科及以上学历; 熟悉AI领域常见的并行算法,包括但不限于:数据并行、流水线并行、张量并行等训练模式,具备深入的理论和实践经验; 精通常见深度学习框架,包括但不限于TensorFlow、PyTorch、Megatron、Deepspeed等,熟悉其原理并能够快速实现并调试相关算法; 熟悉CUDA计算原理,有CUDA相关算子编程经验; 对大规模预训练模型有较好的了解,了解常见预训练模型(如GPT、BERT等)的训练方法和优化技巧; 有底层算子优化经验或者通信策略优化经验者优先录取。