职位描述 1、算力中心模型优化:
负责在高性能算力中心环境下,对深度学习模型进行深度优化,包括但不限于模型结构精简、参数调优、量化压缩等,以提升模型运行效率和降低资源消耗。
分析和评估不同硬件架构(如GPU、CPU、FPGA等)对模型性能的影响,并据此制定针对性的优化策略。
2、DeepSeek、智谱、Lamma、Qwen等框架推理优化:
深入理解并应用DeepSeek、智谱、Lamma、Qwen等前沿深度学习框架的推理优化技术,包括但不限于模型剪枝、动态图优化、静态图转换等,以提高模型推理速度和准确性。
与框架开发者紧密合作,反馈优化需求,推动框架的持续迭代和性能提升。
3、大模型推理优化:
针对大规模深度学习模型(如BERT、GPT等),设计并实施高效的推理优化方案,确保模型在保持高精度的同时,能够在实际应用场景中实现快速响应。
研究并应用分布式推理、模型分片等技术,以应对大规模数据处理和实时推理的需求。
4、设计和优化基于MAAS的AI基础设施架构,满足大规模AI模型训练和推理的性能、效率和成本要求。
5、深入理解MAAS的核心组件和工作原理,并能够根据实际需求进行定制化开发和优化。任职要求 1、计算机科学与技术、人工智能、高性能计算等并行计算背景相关专业
2、熟悉计算机组成原理、操作系统、数据结构,了解OpenMP、MPI、CUDA等并行计算相关基础技术。
3、精通MAAS(Metal as a Service)系统,具备在AI大模型优化高级架构设计中,高效利用MAAS进行资源调度、自动化部署及性能调优的能力。
4、5年以上应用并行优化研究经验
Posted 2026-03-03
Indexed 2026-09-14
Seen 1 小时前