Ivyea Jobs 6520 roles · 89 companies · 刚刚
药明康德AI · AI for Science

AI安全防护与运营专家

上海 社招 · 全职 职能类 运营 / 市场 / 商业化

职位描述

1. 本科及以上学历,计算机、网络安全、软件工程、人工智能或相关专业;5年以上安全运营、检测响应、安全平台工程或相关经验,并具有生成式AI应用开发或AI平台落地经验。 2. 具备扎实的传统安全运营能力,熟悉常见攻击技术与事件响应流程,能够使用SIEM、SOAR、EDR、WAF、NDR、云安全及威胁情报平台完成检测规则开发、告警研判、威胁狩猎、调查取证和自动化响应。 3. 掌握Dify或同类AI应用平台,具有工作流与Agent编排、Prompt工程、RAG知识库、向量检索、工具/API及MCP集成、应用发布、可观测性和权限配置的实际经验。 4. 理解LLM与Agent的基本原理和工程架构,包括上下文窗口、Embedding、RAG、Function Calling、ReAct、记忆、工具调用、模型路由及评测方法;能够分析模型、数据、知识库、插件、Agent及推理服务之间的安全边界。 5. 熟悉LLM与Agent典型风险及防护思路,包括提示词注入、敏感信息泄露、数据与模型投毒、不安全输出处理、供应链风险、系统提示泄露、向量与嵌入风险、过度代理、工具滥用和资源消耗;具备AI红队测试、Guardrails、最小权限和人工审批控制经验者优先。 6. 熟练掌握Python或其他至少一种编程语言,具备REST API、JSON、SQL、正则表达式、Git、Docker及Linux基础,能够独立完成原型开发、系统集成、自动化脚本、测试验证和故障排查;具备良好的跨团队协作、技术文档与英语沟通能力。

任职要求

1. AI 攻击检测能力体系建设 • 构建针对新型 AI 攻击的识别与拦截模型,逐步建立基于用户与实体行为分析的未知威胁检测能力。 • 面向公司内部 AI Agent 及大模型应用场景,建立安全检测探针与防护策略。 2. AI 赋能安全运营落地:主导AI安全运营中心(AI SOC)建设或引入,利用大模型/机器学习对海量安全日志进行自动化降噪、关联分析与威胁狩猎,提升告警精准度与处置效率; 3. 团队赋能与能力沉淀 • 作为团队内 AI 安全方向的专家,沉淀 AI 检测与安全运营最佳实践。 • 在实际项目与攻防场景中带动现有传统安全人员完成能力升级,加速整体安全团队向“AI 驱动”方向演进。 • 构建AI安全知识库与检测模型库,推动技术培训、攻防演练与经验复盘,提升组织AI安全整体能力。
药明康德AI去官方页面投递 →