职位描述
岗位定位:
您将负责从PyTorch等训练框架到自研NPU芯片的模型导入、算子语义对齐、量化压缩与图编译优化,建立可重复、可量化的精度回归与性能分析流程,为具身智能大模型在端侧的高效推理铺平道路。
工作内容:
1. 图导入与算子语义:基于PyTorch Export或ONNX完成小模型的导入与验证,核对算子(Op)定义、分解与规范化逻辑,登记并跟进缺失算子,保障计算图的正确落地。
2. 量化与精度回归:按照既定策略执行PTQ(训练后量化)小实验(INT8/FP16/FP8等),建立从模型级到算子级的精度对比表与误差分析看板,精准定位精度瓶颈。
3. 目标负载分析:拆解指定的VLA(视觉-语言-动作)、扩散或多模态小模型,分析其算子列表、张量形状(Shape)与延迟敏感点,输出关键洞察供编译与算子优化同学参考。
4. 前沿生态跟踪:持续追踪PyTorch 2.x、ONNX、vLLM/SGLang等框架的导入路径变化与技术演进,输出简短调研报告,保持团队技术栈的前瞻性。任职要求
岗位要求:
1. 教育背景:本科及以上学历,计算机、软件工程、人工智能、电子、自动化、微电子等相关专业。
2. 编程能力:
-熟练使用Python,具备良好的工程实践习惯;
-有PyTorch训练或推理的实际使用经验,对计算图及常见层(Linear/Conv/Attention)有清晰理解。
3. 模型部署基础:了解ONNX或Torch Export其中一种工具,能独立完成小模型的导入及输出对齐验证。
4. 精度与数值意识:具备基本数值敏感性,理解误差来源,能使用Golden数据或二分法(对分)进行问题定位与精度校验。
5. AI辅助开发:擅于利用LLM/Agent辅助导入脚本编写、精度对比与问题定位,并能以Golden/数值对分独立审查结果质量,确保合入前可验证。
6. 学习与交付:
-对AI推理框架、芯片、异构计算或编译器之一有持续兴趣;
-能在导师指导下将任务推进至可合入、可验证的完成状态。
7. 英文文献阅读:能流畅阅读PyTorch、ONNX、LLVM/MLIR等官方文档及相关学术论文。
加分项:
1. 有量化(PTQ/QAT)、ONNX转换或自定义算子实现经验。
2. 了解vLLM、TensorRT、ONNX Runtime等推理框架。
3. 有机器人、具身智能或多模态模型的部署小项目经历。