IT人力外包人才简历库

返回列表

高级数据采集工程师

驻场外包人员
工作年限:4年 意向城市:杭州 浏览:5次 发布时间:近期

技能标签

Python Java PHP 分布式爬虫 反爬策略 App数据抓取 数据清洗 消息队列 分布式锁 动态代理 验证码识别 ETL处理 接口开发 系统优化 反爬策略

专业技能

精通Python/Java/PHP多语言开发,擅长分布式爬虫框架(Nutch/Scrapy)构建与优化,具备反爬策略设计与破解能力,熟悉App数据抓取技术( Frida/Charles),掌握数据清洗与ETL处理流程,熟悉消息队列(Kafka/RabbitMQ)与分布式锁(Redis)技术,具备良好的产品意识与跨团队协作能力

工作履历(脱敏处理)

主导某大型电商平台后台系统开发,实现订单处理逻辑模块,采用分布式锁保障高并发场景数据一致性,通过消息队列实现异步处理,系统日均处理订单量达50万+。参与爱奇艺分布式爬虫系统优化项目,重构数据抓取架构,引入动态代理技术破解反爬策略,通过验证码识别模块提升数据采集成功率至98%。开发App数据抓取工具链,实现微信等主流App数据采集,建立反反爬机制应对动态加密数据,项目上线后数据采集效率提升200%。

项目经验(脱敏处理)

项目一:电商后台系统开发(2020.03-2021.12)

主导订单处理模块开发,采用分布式锁(Redis)保障高并发场景数据一致性,通过消息队列(Kafka)实现异步处理,系统日均处理订单量达50万+。设计数据清洗管道,使用ETL工具实现数据标准化处理,提升数据可用性至99.5%。

项目二:分布式爬虫系统优化(2021.12-2023.08)

重构爱奇艺分布式爬虫架构,引入动态代理技术破解反爬策略,开发验证码识别模块提升数据采集成功率至98%。优化数据抓取算法,通过多线程调度和负载均衡技术,将数据采集效率提升200%,成功突破目标平台数据采集瓶颈。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

4年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接