职位描述
1.本地部署与交付:在Linux与Windows环境完成智能体平台公推理服务的安装、配置、升级与回滚,覆盖GPU驱动、CUDA依赖、Python环境、端口与网络配置。
2.环境适配与方案验证:按业务部门需求完成兼容性测试与资源评估(显存占用、并发能力、存储容量),输出可执行的实施方案与风险清单。
3.上线验证与问题闭环:验证服务可用性、资源占用与运行稳定性;通过日志、监控与压测定位问题,形成可复现记录并推动闭环。
4.标准化交付:编写部署手册、配置规范、上线检查清单单、回滚预案与故障处置SOP,沉淀可复用的自动化脚本。
5.安全与权限落地:落实软件来源与安装审核、运行权限、外部网络访问、插件与工具调用权限的检查,配合信息安全团队完成整改与审计。
6.运维协同与二线支持:将巡检、值班、备份等日常维护项连同SOP移交服务运维;上线期承担业务部门的安装指导与操作培训,之后转为二线技术支持。任职要求
1.计算机、软件工程、网络工程或相关专业,2年及以上IT实施、部署或运维经验,有企业级系统独立交付经验。
2.使用vLLM、Ollama、Triton等任一框架实际部署过模型服务,能说清启动参数与并发相关配置。
3.熟悉GPU服务器运维,掌握驱动与CUDA环境配置、故障定位,能完成多卡分配、显存规划及多服务隔离。
4.能在Linux下独立完成环境搭建与服务部署:包管理、服务管理、权限、日志、防火墙与端口开放。
5.熟练使用Docker(含docker compose),能编写Dockerffile、处理目录挂载与容器网络;了解Kubernetes 者优先。
6.具备Python或Shell脚本能力,能编写环境检查、批量部署与巡检类脚本。
7.熟悉TCP/IP、DNS、HTTP/HTTPS、代理与端口访问等网络各基础,能独立排查连接类故障。
8.具备文档习惯:能把一次性实施经验固化为手册、清单与9SOP,而非依赖个人记忆。
