职位描述
1.负责大模型推理的基础软件框架研发；
2.负责对接上层大模型算法应用部署组件，高效封装自研底层编译器框架和后端多源算子库；
3.保证线上请求不同SLO下服务的高可用性;
4.参与实现低开发门槛和用户友好的大模型中间层软件栈。任职要求
1.硕士及以上学历，计算机相关专业；
2.熟悉/C++ 和 Python，有扎实的数据结构和算法基础；
3.【加分项】了解TensorRT或大模型推理平台的研发和优化；
4.【加分项】 了解 FlashAttention、PageAttention等大模型推理计算库；
5.【加分项】了解MLIR、TVM、Triton等深度学习编译相关工作，有其中一种开发经验者优先。
