职位描述1、负责重要爬虫项目的方案设计与工程落地,数据源以海外平台音视频资源为主,覆盖内容接入、采集与交付全流程。 2、负责数据采集任务开发,完成各类外部数据接入、解析、清洗与结构化入库,保障数据时效、覆盖与质量。 3、参与建设高并发、高可用的数据采集平台,具备稳定的调度、抓取、存储与监控能力,持续优化反反爬与系统稳定性。 4、协助团队对平台海量数据进行挖掘与分析,支撑下游业务与研究需求。任职要求1、计算机相关专业本科及以上学历,具备扎实的计算机与网络基础。 2、熟练掌握至少一门编程语言(Python / Go 等),2年以上爬虫与反爬实战经验。 3、熟悉常用爬虫框架;掌握 Frida、Xposed 等 Hook 工具及 IDA 等逆向工具;有海外中大型 App 或 Web 平台采集经验优先。 4、掌握验证码识别、JS 逆向、反混淆等常用反爬技能,能独立应对复杂风控与对抗场景。 5、熟悉 Redis、MySQL,掌握消息队列(如 RabbitMQ),了解 Elasticsearch 等常见中间件。 6、沟通协作顺畅,抗压能力强,能独立定位并解决开发与线上问题。 加分项 1、有大规模音视频/多媒体素材下载、防盗链处理与对象存储管线经验; 2、有分布式调度、高并发下载、代理池建设经验; 3、有海外内容平台、短视频/长视频站点或客户端深度采集案例。