职位描述1. 参与AI大模型平台的搭建与落地，专注于程序语言领域； 2. 开发高吞吐、低延时的推理系统，面向AI辅助编程场景； 3. 利用程序综合技术，辅助 AI 大模型推理，提高推理系统的准确率任职要求1. 熟悉LLaMA，llama.cpp，有相关工程经验者优先； 2. 扎实的编程功底和深度学习/机器学习基础，熟练掌握 PyTorch，具备底层性能调优经验者优先； 3. 熟悉 Python/C++语言，了解深度学习网络和算子底层实现细节，具备自定义算子研发能力； 4. 熟悉分布式推理加速框架，有超大模型分布式加速经验者优先； 5. 有大模型分布式训练，架构设计，数据收集经验者优先； 6. 具备自然语言处理、模型压缩和推理优化等领域工程经验者优先； 7. 有程序综合经验者优先。
