职位描述
1. 参与大模型等AI模型在不同硬件下的部署与推理实现，适配各种硬件平台（orin，thor，国产芯片，gpu，npu等）
2. 对接算法团队，解决模型部署中的算子兼容，精度对齐，性能瓶颈分析等问题
3. 模型量化，实现多种数据类型的精度量化，平衡精度损失与推理性能
4. 针对不同硬件的算力特性，定制优化策略，提升硬件利用率和资源优化任职要求
1. 硕士及以上学历，计算机、电子信息、通信工程、声学等相关专业。，熟悉VLM，VLA等模型架构，有AI模型部署经验
2. 熟悉芯片的部署工具链，使用过其中一到两种工具，3. 3. 完成模型的推理与部署，熟悉常用的大模型推理框架
掌握常见的量化技术，能完成量化，分析以及精度对齐
加分项：
1. 有从算法原理出发，做过模型优化者
2. 有过多模型同时推理，资源优化经验
