职位描述
1. 参与深度学习框架PyTorch与自研芯片软硬件栈对接和性能优化;
2. 参与主流大模型推理引擎(如vLLM和SGLang)与自研芯片软硬件栈对接,实现大模型的高效推理部署;
3. 参与芯片的软硬件协同设计。任职要求
1. 计算机、微电子、电子工程、软件工程等相关专业,硕士及以上学历;
2. 熟悉C/C++和Python,有扎实的编程基础、良好的编程风格和工作习惯;
3. 有AI领域的基础知识,了解相关算法模型及常见应用领域;
4. 熟悉大模型分布式推理技术(包括数据并行、张量并行、序列并行和专家并行);
5. 有以上相关的实习/项目经历为加分项;
6. 具有良好的团队协作精神,责任心强,能够积极主动地完成相关工作。