职位描述
1. 对接算法团队,分析模型结构、算子组成、数据分布及精度指标,将算法需求分解为系统架构、算子库和编译工具链需求。
2. 分析数据格式、量化位宽、累加精度、截断与舍入、溢出与饱和、ADC/DAC 精度等因素对模型结果的影响,软硬联合设计计算单元数据格式和精度方案。
3. 围绕存算一体架构实现精度补偿方案,包括偏差修正、噪声注入训练、分层补偿等。
4. 负责模型量化方案落地,包括 PTQ、QAT、混合精度、权重与激活量化、校准策略、量化参数搜索及敏感层分析,在精度、性能、功耗和存储开销之间取得平衡。
5. 建立浮点参考模型、硬件行为模型和芯片结果之间的逐层精度比对能力,定位模型、编译器、算子或硬件引入的数值误差。
6. 设计模型在存算一体芯片及 GPU、NPU 等异构平台上的部署方案,协同AI工具链团队,完成模型转换、算子适配、计算图调整、精度验证等工作。
7. 建设模型精度评测、自动回归和问题诊断体系,沉淀量化规则、精度补偿及典型模型部署方案。任职要求
1. 计算机、算法、电子工程、自动化、数学或相关专业,硕士及以上学历,具有 2年以上算法部署、模型量化、算法训练或 AI 芯片软件相关经验。
2. 熟练掌握 Python,熟悉 C/C++,理解计算图、算子语义、模型导出、量化和推理部署流程。
3. 熟悉卷积、矩阵乘、激活、Attention 等常见深度学习算子,理解其数值计算过程及精度敏感性。
4. 熟悉定点数、浮点数和低精度数据格式,理解量化、舍入、误差传播及数值稳定性。熟悉 INT8、INT4、INT2、FP8、BF16 或自定义数值格式。
5. 具有 PTQ、QAT 或混合精度量化经验,熟悉对称与非对称量化、Per-Tensor 与 Per-Channel 量化、校准方法和敏感度分析。
6. 能够通过逐层比对、误差统计和消融实验定位模型精度问题,并提出兼顾硬件约束和算法效果的解决方案。
7. 理解 AI 加速器或存算一体架构的基本原理,熟悉片上存储、数据搬运、阵列计算等相关机制,能够将算法精度和运行效率等需求转化为系统架构、编译器、算子等团队可以实现和验证的技术指标。