职位描述
AI架构师(偏AI硬件架构设计)&AI架构性能建模工程师(偏AI算法、workload性能分析)
职责
- 对接产品经理、客户支持工程师、算法工程师、框架工程师、软件栈工程师,深入理解AI客户底层需求、并下沉出架构优化方向及具体的设计需求;
- 分析AI/HPC等计算workload,进行GPU、NPU性能建模与分析;
- 针对AI workload作GPU架构增强、设计NPU架构等;任职要求
- 经验要求
- 初级:硕士+2年以上工作经验
- 中级:硕士+5年以上工作经验,或,博士+2年以上工作经验
- 高级:硕士+8年以上工作经验,或,博士+5年以上工作经验
- 技能要求:
- 理解AI算法及其在GPU上的运行flow;
- 理解以Transformer模型为基础的LLM、以deepseek为代表的现代MoE模型的架构,及其在训练、推理集群上的运行原理;
- 理解算例带宽比的配平原理、roofline model等;
- 能针对大量性能数据进行综合分析、识别计算瓶颈、提出架构建议;
- 架构师:具有编程模型、memory model、软硬接口、ISA的知识和经验;
- 性能建模工程师:能够分析AI模型源代码,并针对目标硬件架构作高层次性能建模;
- 加分项:能分析GPU kernel、有算子设计或分析经验,能进行性能问题分析;
- C++或PyThon编程能力;
- 加分项:NVSHMEM、NCCL、MPI、PGAS等方面的知识或经验;
- 加分项:PTX、nvcc、CUDA C++、CUTLASS、cuTile、Triton、cuBLUS、cuDNN、TensorRT、PyTorch等方面的知识或经验;