职位描述
作为仿真系统的"产品实现者",负责端到端仿真框架的设计与开发,将分散的场景定义、算子模型与硬件参数整合为统一的仿真产品,直接输出可指导业务决策的性能预测结果。
核心职责
1. 仿真框架架构设计与开发
- 设计并开发模块化、可扩展的仿真框架,整合场景定义模块、算子性能模型库、硬件参数配置等核心组件。
- 实现从单模型推理性能到完整Serving层性能(端到端延迟、系统吞吐、SLO达成率、资源利用率)的全链路仿真能力。
2. Serving层仿真能力构建
- 深入理解AI推理服务框架(如vLLM、TGI、SGLang等)的调度机制、批处理策略、缓存管理、负载均衡等核心逻辑。
- 在仿真框架中复现Serving层的关键行为,支持对并发请求、动态批处理、PD分离部署等复杂场景的仿真。
3. 系统迭代与产品化
- 建立仿真结果与真实线上数据的对比验证机制,持续迭代模型精度,提升仿真结果的可信度。
- 推动仿真系统的工程化与产品化,提供友好的配置接口、可视化输出与报告生成能力,降低使用门槛。
- 善用AI辅助编程等先进工程手段,保持高效交付节奏。任职要求
1. 硕士及以上学历,计算机、软件工程等相关专业,985/双一流院校优先。
2. 3-5年后端/系统开发经验,具备扎实的工程架构能力,熟练掌握Python/C++等开发语言。
3. 熟悉至少一种主流AI推理服务框架(vLLM、TensorRT-LLM、TGI等)的源码或运行机制。
4. 具备复杂系统建模或离散事件仿真(DES)相关开发经验。
5. 加分项
- 有性能仿真、数字孪生或容量规划类产品的开发经验。
- 熟悉分布式系统仿真或网络仿真技术。
- 具备全栈开发能力,能独立完成从后端逻辑到前端可视化的完整功能。
- 有开源项目贡献或技术博客输出,具备技术影响力。