职位描述- 长上下文、多模态和 Agent，让模型推理面对更复杂的计算和服务需求。 - 你将参与 MiniMax 从 GPU 算子、推理框架到在线 Serving 的研发与优化，把 kernel 上的加速转化为实际服务的低延迟、高吞吐与更低成本。可以结合兴趣和基础，选择一个或多个方向深入。 你将参与的工作 1. 算子开发与优化：参与 Attention、GEMM、MoE 等关键 kernel 的开发与优化，使用 CUDA/Triton 改进访存、并行计算和算子融合，在保证数值正确性的前提下提升 GPU 执行效率。 2. 推理框架研发：参与推理框架与 Runtime 研发，优化模型执行、KV Cache、Batching 和多卡通信，探索 CUDA Graph、量化与 Speculative Decoding 等加速方案。 3. Serving 系统研发：参与在线推理服务研发，优化请求路由、并发控制、流式输出与负载均衡，完善弹性伸缩、故障恢复和监控，提升复杂负载下的服务性能与稳定性。 4. 端到端性能优化：通过 Profiling、Benchmark 和压测，定位算子、框架及服务中的性能瓶颈，围绕 TTFT、TPOT、吞吐和成本开展优化，验证不同模型与业务负载下的实际收益。任职要求我们期待你 1. 计算机及相关专业在校生，数据结构、算法、操作系统基础扎实，熟练使用 C++、Python、Go 中至少一种语言。 2. 熟悉 Linux，在 GPU 编程、深度学习框架或后端系统开发中的至少一个方向有学习和项目实践。 3. 具备良好的分析与调试能力，能阅读源码、设计实验，清楚说明性能瓶颈、优化思路与验证结果。 4. 对大模型推理和高性能计算有兴趣，愿意主动学习新技术，与算法、系统同学协作解决实际问题。 加分项 1. 有 CUDA/Triton kernel 开发或 GPU 性能优化经验，使用过 Nsight 等工具。 2. 使用、研究或贡献过 PyTorch、vLLM、SGLang、TensorRT-LLM 等项目，或有模型适配、量化、分布式推理经验。 3. 有高并发服务、异步系统、负载均衡或分布式系统开发经验，能展示具体的设计、实现和优化成果。 4. 有 ICPC、NOI、ASC 等程序设计或超算竞赛经历。 你将收获 在真实模型和业务负载中验证优化方案，逐步建立从 GPU 执行到在线服务的系统视角，让自己的代码直接影响推理效率与成本。
