职位描述
岗位职责:
1. 核心算子研发与优化:基于自研架构特性,负责深度学习核心算子(如 GEMM、Attention、MoE、Norm 等)的底层开发、性能建模与极致优化,为大规模训练和推理提供底层算力支撑。
2. 底层指令级调优:深入分析算子性能瓶颈,编写并优化 汇编代码,针对 Tensor Core 指令、异步拷贝(TMA)、Warp 调度等进行汇编级指令调优,将硬件性能压榨至理论极限。
3. 高性能库定制开发:熟练使用 CUTLASS、CUTE、CUB 等高性能计算库,结合 TileLang 等 DSL 技术,针对特定业务场景(如 LLM 推理、多模态大模型)进行定制化算子开发与重构。
4. 系统级性能攻坚:主导跨层级的性能分析,在模型、框架、算子、GPU 多层之间定位瓶颈,通过算子融合、低比特量化(FP8/FP4)、内存层级优化等手段,显著提升端到端的计算效率。
5. 前沿架构适配:跟进业界最新架构(如 Hopper、Blackwell)特性,参与新一代计算库的 Bring-up 与适配工作,保障关键算子在新硬件平台上的性能表现持续领先。任职要求
任职要求:
1.学历与专业背景:计算机、软件工程、自动化或相关专业重点本科及以上学历,具备扎实的计算机科学基础。
2. 编程与底层能力:精通 C/C++ 编程,熟练掌握模板元编程;深入理解 GPU 体系结构(SM、Warp、内存层级等),精通 CUDA 编程模型。
3. 汇编与指令集:熟悉 汇编语言,具备逆向工程经验,能够独立阅读、编写并优化底层汇编代码,深刻理解计算密集型算子的指令级执行逻辑。
4. 高性能计算库:深入掌握 CUTLASS、CUTE、CUB 等计算库的底层原理与源码,有基于这些库开发过高性能算子(如 GEMM、FlashAttention)的实战经验。
5. 性能分析与调优:具备出色的性能分析能力,熟练使用Profiler 等工具,能够精准定位并解决 Bank Conflict、内存带宽瓶颈、指令延迟等问题。
6. 深度学习基础:熟悉 Transformer、MoE 等主流模型架构,了解 vLLM、SGLang 等推理框架,能够理解模型计算特性并进行针对性的系统级优化。
加分项:
1. 熟悉主流编译框架:有 LLVM、MLIR、TVM、XLA 或 IREE 等深度学习编译器项目的开发或优化经验,熟悉 Pass 编写或代码生成原理。
2. 掌握 GPU DSL 工具:具备 OpenAI Triton、TileLang 等 GPU 领域特定语言(DSL)的开发经验。
3. 高性能计算库背景:熟悉 CUTLASS、CUB、cuBLAS、cuDNN 等底层高性能计算库的源码与使用,有相关库的二次开发或贡献经历。
4. 模型推理优化:熟悉 Transformer、LLM 等主流模型架构,掌握投机采样、KV Cache 管理、Paged Attention、Continuous Batching 等前沿推理加速技术。
5. 极致性能 Debug:能通过打点、仿真器(Simulator)或底层汇编(如 Xtensa 汇编)成功进行过极致的性能排查与 Debug。
6. 硬件协同设计:深刻理解多级存储层次(Memory Hierarchy)、缓存一致性、指令级并行(ILP)及异步数据搬运,有软硬件协同设计(Co-design)的实践经验,能为芯片架构演进提供数据支撑。
可base 地点:上海,北京,深圳,南京,西安,成都,深圳