职位描述
1.分析前沿的 AI/ML 工作负载的特性,包括LLM、文生图、文生视频、计算机视觉模型和基于 Transformer 的其他模型等,理解它们的计算负载、内存需求。包括对最先进的训练技术(例如,分布式训练、数据/模型并行、优化器内存缩减)和推理方法(例如,量化、稀疏注意力、内核融合、推测解码)进行深入分析。
2.提出并评估微架构特性(例如,新的指令集、专用计算单元或内存系统优化),以最大程度地加速关键 AI 内核的运行。任职要求
1.计算机、数学等相关专业,硕士及以上学历,3+年以上系统架构、性能分析或硬件设计经验,重点关注高性能计算或 AI 加速领域。
2.熟悉C/C++编程,有扎实的编程基础和较强的问题解决能力;
3.熟悉某种处理器架构及内存结构;
4.对GPU的工作原理有一定了解,包括硬件体系架构及其编程模型,
5.有很好的团队协作能力与沟通能力,对技术和代码品质有追求;
加分项
1.有CUDA、OpenCL、HIP等异构计算编程体系相关开发经验;
2.有AI或通用计算库开发经验,如cuBLAS、cuDNN、CuRAND、MIOpen等