职位描述
职位描述:
参与语言模型的全流程模型训练与性能评估,包括预训练、指令微调、偏好对齐,并对流程中某些部分算法进行深入探究,并将研究成果转化为学术论文。
职位职责:
1. 模型训练各阶段方法设计与研究,
- 参与上游大规模语料库的构建,确保数据质量和多样性。
- 进行模型性能分析,识别和解决训练过程中的瓶颈。
- 优化下游任务的模型能力,采用先进的调优方法提升模型效果,包括SFT和RLHF等相关的算法研究。
2. 各阶段模型性能评估
- 构建各阶段的模型评测数据集,确保评测的全面性和代表性。
- 设计和完善评测流程,确保评测的科学性和系统性。任职要求
职位要求:
1. 拥有扎实的编程能力,精通至少一种编程语言。
2. 良好的沟通协作能力,能和团队一起探索新技术,推进技术进步。
3. 优秀的文献阅读能力,紧跟行业前沿技术和热点问题。
4. 出色的问题分析和解决能力,能深入解决算法探究过程中存在的问题。
加分项:
1. 熟悉NLP相关的算法和技术,具备大模型训练经验者优先考虑;
2. 在大模型领域,参与过重要开源项目,大模型相关比赛优胜或发表相关论文者优先。