【日常实习】AI Infra工程师-推理方向实习生
职位描述
1、参与大模型推理引擎与高并发在线服务的研发、部署与极致性能优化，支撑百万级 QPS 的稳定服务；
2、研究并落地量化、蒸馏、稀疏化、投机解码、KV Cache 管理等推理优化技术；
3、深度分析算子、计算、通信与显存瓶颈，持续优化吞吐、首 Token 时延、端到端时延、显存占用与单位 Token 服务成本；
4、开发高性能 CUDA 算子与推理内核，适配新一代硬件架构，探索非 Transformer 模型的高效推理方案；
5、建设弹性扩缩容、流量调度、故障自愈与全链路可观测体系，保障线上推理服务的高性能、高质量与高可用性。任职要求
1、2027年及以后毕业的在校生，计算机、软件工程等相关专业，硕士及以上学历；
2、扎实的计算机体系结构、并行计算与操作系统基础，精通 C++/Python，熟悉 CUDA 编程；
3、深入理解大模型推理原理，至少使用或研究过 vLLM、SGLang、TensorRT-LLM 等主流推理框架中的一种；
4、具备优秀的性能分析与工程实现能力，能系统性地定位并解决复杂性能瓶颈；
5、对高性能计算、GPU 优化或推理系统有强烈热情，追求极致性能与工程质量。
加分项：
1、有高性能算子开发、编译器（TVM/MLIR）、GPU 架构优化或推理系统项目经验；
2、熟悉模型压缩技术（量化/蒸馏/剪枝），有实际部署与精度恢复经验；
3、有高并发在线服务、负载均衡、弹性调度或分布式系统开发经验；
4、在 MLSys/PPoPP 等系统顶会发表过论文，或在主流开源推理框架中有核心贡献。
