职位描述
1. 负责端侧AI SoC上的大模型推理软件系统架构、需求分解和技术路线，明确推理框架、算子、编译器、Runtime、驱动固件及部署工具的职责与接口。2. 结合模型特征与片上CPU/NPU计算能力、DDR及片上存储条件，分析Prefill、Decode和视觉语音路径，制定性能、内存及带宽预算与优化计划。
3. 设计片上CPU与NPU之间的任务执行、数据共享、缓存一致性、同步与异常恢复机制，明确Runtime、驱动和NPU固件的接口及资源归属。
4. 组织模型格式、量化与布局、KV及循环状态、CPU回退和编译算子协同等方案比较，明确适用条件、资源约束、兼容目标及验证方法。
5. 组织关键设计与代码评审，参与核心代码和性能原型，推动最小推理链路及端到端集成；协调芯片、硬件、外部BSP和测试团队定位跨层问题。
6. 将架构工作分解为迭代任务与接口交付，建立需求、设计和验证追溯，维护技术文档，指导后续同架构SoC的资源与指令差异适配。任职要求
1. 负责端侧AI SoC上的大模型推理软件系统架构、需求分解和技术路线，明确推理框架、算子、编译器、Runtime、驱动固件及部署工具的职责与接口。2. 结合模型特征与片上CPU/NPU计算能力、DDR及片上存储条件，分析Prefill、Decode和视觉语音路径，制定性能、内存及带宽预算与优化计划。
3. 设计片上CPU与NPU之间的任务执行、数据共享、缓存一致性、同步与异常恢复机制，明确Runtime、驱动和NPU固件的接口及资源归属。
4. 组织模型格式、量化与布局、KV及循环状态、CPU回退和编译算子协同等方案比较，明确适用条件、资源约束、兼容目标及验证方法。
5. 组织关键设计与代码评审，参与核心代码和性能原型，推动最小推理链路及端到端集成；协调芯片、硬件、外部BSP和测试团队定位跨层问题。
6. 将架构工作分解为迭代任务与接口交付，建立需求、设计和验证追溯，维护技术文档，指导后续同架构SoC的资源与指令差异适配。
加分项
1. 有NPU/GPU/DSP从仿真、FPGA到芯片联调和软件交付经历。
2. 有llama.cpp/ggml、LLVM、推理框架或加速器SDK的核心开发及开源贡献。
3. 有端侧推测解码、低比特计算、编译与Runtime协同优化或多代芯片适配经历。
