职位描述
1.负责模型从产物到上线的全流程工作,与算法和产品团队紧密合作,设计和落地AIGC产品的解决方案;
2.分析现有架构的不足,结合产品和算法模型特点对推理服务进行持续改进,保证服务的高性能、高可用、高效能;任职要求
1.计算机科学、电子工程、信息技术或相关领域的本科及以上学历。1-3年以上推理架构设计及优化相关工作经验。
2熟悉至少一种编程语言(Python / Go / C++ / Java 等),熟悉常见的中间件、微服务框架和基础组件;
3.对性能敏感,能够对系统瓶颈进行分析和profiling并改进,有大规模生产环境的优化经验
4.熟悉llm、vlm、AIGC等技术,了解常见的例如TTS、ASR产品,了解torch/tensorflow/transformers/vllm/sglang等常见的ML框架,有实际模型部署经验更佳
5.优秀的问题解决能力,强烈的责任心和主人翁意识,良好的沟通能力和团队合作精神
加分项:
1.熟悉算法产品的落地流程,有实际AIGC产品落地者优先;
2.熟悉微服务架构、分布式系统、计算密集型架构、AI agent、工作流引擎、大模型微调、搜推广等技术;