职位描述
负责AI加速框架支持和相关backend实现;
负责相关AI SDK和工具链开发和集成,包括量化方法实现,模型导入,;
负责定点量化算法原型实现;任职要求
熟练掌握Linux下常见的性能测试、剖析工具及优化方法;
熟悉C语,C++,和Python语言
对机器学习或对硬件加速算法有开发经验者优先考虑;
具有NPU / GPGPU / HPC性能分析和调优经验;
熟悉以下个业务方向之一,优先录取
熟悉流行的AI推理框架,如TFLite,Pytorch,ONNX Runtime,TVM,vLLM, Llama.cpp
熟悉流行的CNN,RNN,LLM模型结构和相关算法;
熟悉QAT和PTQ,特别是相关LLM相关量化方法。