Ivyea Jobs 11247 roles · 203 companies · 刚刚
黑芝麻智能 · AI 芯片

AI模型优化部署工程师

上海 社招 · 全职 推理 / 部署 交付 / 解决方案

职位描述

1. 负责 PTQ / QAT 等模型量化工具链的开发,支持 INT4/INT8/FP16/W8A16 等多种精度组合的量化方案落地; 2. 开发和维护模型精度分析工具链; 3. 参与模型在 NPU 硬件上的部署适配; 4. 参与自研 AI 编译器(NPU 芯片)的功能开发和性能优化,包括量化、图优化等功能的开发和维护; 5. 支持大语言模型(LLM)和视觉模型在 NPU 上的量化部署与精度调优。

任职要求

1. 硕士及以上学历,3年及以上工作经验; 2. 熟练掌握 Python 和 C/C++ 编程语言,具备良好的工程能力; 3. 熟悉深度学习基础知识和常见网络结构(Transformer、CNN、BEV 等); 4. 熟悉 ONNX 模型格式和模型处理工具链; 5. 具备模型量化(PTQ/QAT)相关经验,理解常见的量化算法; 6. 熟悉至少一种深度学习框架(PyTorch / TensorFlow),有模型训练或推理优化经验; 7. 有良好的问题分析和定位能力,能够从模型、编译器和硬件多个层面排查精度和性能问题。 8. 加分项 (1)了解 AI 编译器工作原理; (2)熟悉大语言模型(LLM)架构和推理优化,如 LLM 量化(GPTQ/AWQ/FP8)、KV-Cache 优化、Speculative Decoding 等; (3)有 NPU / GPU / DSP 等硬件平台上的模型部署经验; (4)有自动驾驶或 BEV 感知模型相关经验。
黑芝麻智能去官方页面投递 →