职位描述
岗位职责
负责 AI GPU、LLM 大模型、多模态及 AIGC 模型项目的 POC 测试与客户技术支持,包括需求澄清、测试方案设计、环境准备、模型测试用例执行、问题定位、测试报告输出。
负责客户侧大模型推理服务在 SGLang / vLLM 等框架下的性能、精度、稳定性和基准压测,覆盖 TTFT、TPOT、吞吐、并发、长上下文等核心指标,输出可交付的测试报告与优化建议。
负责 POC 和交付过程中的模型推理、集群网络及部署问题排查,完成问题复现、日志分析、根因定位和闭环跟踪,沉淀标准化测试方案、脚本、FAQ 和问题库。
负责曦望 GPU及 AI 集群部署、大模型交付、性能调优、稳定性保障。
配合销售和研发完成项目交付、客户维护与需求反馈,同步市场与客户需求,推动产品迭代。
参与客户培训、方案宣讲和验收支持,提升客户对 AI GPU 产品及推理方案的认可度。任职要求
任职资格
计算机、电子等相关专业本科及以上学历,3–5 年 AI 软件、FAE、测试交付或推理优化相关经验。
了解深度学习框架,熟悉 PyTorch 及大模型推理全链路,包括 Prefill/Decode、KV Cache、量化推理等;有 AI 芯片或 AI 产品应用落地经验。
熟悉主流推理框架 SGLang / vLLM,至少能熟练使用其中一种完成服务部署、参数配置和压测;熟练使用 bench_serving 等压测工具。
熟悉 Linux 操作系统,熟练使用日志、进程、资源、GPU 监控和网络诊断工具排查服务问题;具备 Python 代码和 Shell 脚本开发能力,能编写自动化测试/排障脚本。
熟悉 Docker、Kubernetes 等部署平台,了解 NCCL 等多卡并行与集合通信机制。
具备较强的测试设计、报告输出和客户沟通能力,能独立完成 POC 测试方案、测试用例、测试报告和客户汇报,推动问题闭环。
客户意识强,执行力强,结果导向,抗压能力强,能接受出差。
加分项
有英伟达、昇腾、寒武纪、沐曦等 GPU 软件栈测试/交付经验,或参与过 CUDA 应用迁移与算子适配验证。
具备 GPU、服务器相关知识,了解 GPU 服务器整机架构与 PCIe / NVLink / IB / RoCE 等互联技术。
熟悉 BMC / IPMI 带外管理或集群网络运维。
有统信 UOS、海光/飞腾等国产 CPU 平台适配测试经验,或持有相关认证,参与过智算中心建设与交付。