职位描述

1.算力中心模型优化：负责在高性能算力中心环境下，对深度学习模型进行深度优化，包括但不限于模型结构精简、参数调优、量化压缩等，以提升模型运行效率和降低资源消耗。分析和评估不同硬件架构（如GPU、CPU、FPGA等）对模型性能的影响，并据此制定针对性的优化策略； 2.DeepSeek、智谱、Lamma、Qwen等框架推理优化：深入理解并应用DeepSeek、智谱、Lamma、Qwen等前沿深度学习框架的推理优化技术，包括但不限于模型剪枝、动态图优化、静态图转换等，以提高模型推理速度和准确性。与框架开发者紧密合作，反馈优化需求，推动框架的持续迭代和性能提升； 3.大模型推理优化：针对大规模深度学习模型（如BERT、GPT等），设计并实施高效的推理优化方案，确保模型在保持高精度的同时，能够在实际应用场景中实现快速响应。研究并应用分布式推理、模型分片等技术，以应对大规模数据处理和实时推理的需求； 4.设计和优化基于MAAS的AI基础设施架构，满足大规模AI模型训练和推理的性能、效率和成本要求； 5.深入理解MAAS的核心组件和工作原理，并能够根据实际需求进行定制化开发和优化。

任职要求

1.985/211高校硕士及以上学历，计算机科学与技术、人工智能、高性能计算等并行计算背景相关专业； 2.熟悉计算机组成原理、操作系统、数据结构，了解OpenMP、MPI、CUDA等并行计算相关基础技术； 3.精通MaaS（Metal as a Service）系统，具备在AI大模型优化高级架构设计中，高效利用MAAS进行资源调度、自动化部署及性能调优的能力。

AI大模型优化工程师

职位描述

任职要求