Ivyea Jobs 5586 个在招 · 54 家公司 · 更新于 刚刚
宇树科技 · 具身智能

AI Infra ⼯程师

杭州 社招 AI Infra / 训练系统

职位描述

1. 负责⼤规模算⼒集群下AI框架的设计与建设。 2. 构建并维护⼤规模算⼒集群的分布式训练系统,⽀持⼤模型训练。 3. 优化⼤模型训练 GPU 利⽤率、内存占⽤和训练吞吐量,消除训练瓶颈。 4. 优化数据加载器效率,缩短从数据到达模型训练的耗时。 5. 与研发团队密切合作,⽀持多模态⼤模型及运控模型训练优化。 6. 构建低延迟推理流⽔线:⽤于机器⼈实时控制,并应⽤量化(Quantization)、蒸馏(Distillation)和模型编译等技术优化推理性能。

任职要求

1. 具备千卡级 GPU 集群训练实践,熟悉⼤模型训练中的常⻅问题与系统级解决⽅案; 2. 熟练掌握 DDP / FSDP 等分布式机制底层原理; 3. 熟练运⽤ DeepSpeed、Megatron-LM 等主流框架; 4. 具备结合模型结构制定最优并⾏策略⽅案能⼒; 5. 具备全栈性能分析能⼒,能够⾼效识别训练过程中计算、通信与数据加载链路中的关键瓶颈,并进⾏针对性优化; 6. 有ML Infra 或 AI 训练平台构建经验者优先。 7. 有多模态⼤模型及强化学习训练经验者优先。 8. 主导过千卡级集群训练架构设计与性能攻坚,在算⼦优化、⾃研通信协议或并⾏策略领域有深度产出者优先。