职位描述
1. 产品定义与规格制定
- 主导编译器、算子库、推理引擎、SDK及推理平台的产品规格设计。
- 明确功能边界、API规范、性能目标及易用性指标,包括时延、吞吐、显存占用、稳定性和开发效率。
- 深入训练与推理全链路,与架构师共同决策“做什么、不做什么”,对软件产品竞争力负责。
2. Roadmap规划与版本交付
- 制定并持续演进软件栈Roadmap,在易用性、性能和生态兼容性之间进行产品取舍。
- 对接编译器、算子库、框架适配、Runtime、Driver及模型适配团队,推动版本节奏对齐。
- 建立版本发布、能力清单、已知问题及生命周期管理机制,推动高质量按期交付。
3. 开发者体验与产品资产
- 建立开发者文档、API、示例代码和最佳实践规范。
- 规划Model Zoo、示例库、性能调优指南及迁移手册。
- 降低开发者从“第一个Hello World”到“生产部署”的全路径成本。
- 建立客户、开发者、社区及交付团队的反馈闭环,量化定义体验改进优先级。
4. 生态兼容与迁移策略
- 以CUDA生态为重要参照,定义兼容层、迁移工具和应用迁移策略。
- 推动PyTorch、SGLang、vLLM及主流推理引擎、框架和模型的适配。
- 跟踪LLM推理技术演进,包括量化压缩、投机采样、MoE、PD分离、KV Cache及分布式推理等,识别产品机会。
5. 商业化与生态影响力
- 支持重点客户的软件架构交流、迁移方案设计和技术决策。
- 形成软件产品概览、能力清单、竞争分析和销售工具。
- 代表产品参与开发者社区、技术会议和生态合作,提升软件栈的行业认知。任职要求
教育及专业背景
- 本科及以上学历,计算机、软件工程、人工智能、电子信息等相关专业985/211或海外知名院校优先;具有突出专业成果和完整产品经历者,可适当放宽。
- 具备扎实的计算机系统、并行计算、机器学习系统或软件工程基础。
任职经验
- 8年以上AI、基础软件或开发者产品相关经验,其中5年以上AI平台、AI软件栈、开发者工具或技术产品管理经验。
- 至少完整负责过一款编译器、推理引擎、SDK、AI平台、模型部署工具或开发者产品,从产品定义推进至正式发布和规模使用。
- 有AI芯片公司、云厂商、AI框架、推理平台或大型基础软件团队经历优先。
- 有大模型推理、分布式推理、量化、模型迁移或性能优化产品经验。
专业能力
- 深入理解AI芯片软件栈,包括Driver、Runtime、编译器、算子库、框架适配、推理引擎和Serving系统。
- 熟悉PyTorch及vLLM、SGLang、TensorRT、Triton、ONNX Runtime等主流技术体系。
- 能阅读Python/C++代码,能够与研发团队深入讨论API设计、Kernel性能、编译优化、显存管理和分布式推理问题。
- 能独立完成产品规格、Roadmap、版本规划、开发者体验指标、生态兼容和迁移策略。
- 能够在性能、兼容性、易用性、版本节奏和研发资源之间作出清晰取舍。
代表性产出
- 主导过至少一款AI软件或开发者产品从0到1落地,并形成真实客户或开发者规模使用。
- 形成过完整的SDK、产品规格、版本体系、开发者文档、Model Zoo或迁移工具体系。
- 有明确的性能提升、迁移成本降低、开发效率提升、用户增长或生态建设结果。
- 有高质量开源项目、技术专利、顶会论文或行业技术演讲经历优先。