IT人力外包人才简历库

返回列表

Web爬虫开发工程师

驻场外包人员
工作年限:1年 意向城市:杭州 浏览:2次 发布时间:近期

技能标签

JS逆向解析 Scrapy框架 动态Token生成 参数混淆分析 XPath解析 Chrome开发者工具 MySQL数据存储 MongoDB数据存储 分布式爬虫 反爬虫策略 加密算法逆向 数据采集系统 请求头构造 分页逻辑分析

专业技能

精通Scrapy框架构建分布式爬虫系统,掌握JS逆向解析技术(含参数混淆、动态Token生成等加密逻辑分析),熟练使用Chrome开发者工具进行前端逻辑逆向。熟悉XPath/CSS选择器数据解析,具备MySQL与MongoDB数据存储方案设计能力。擅长通过中间件实现加密参数动态生成,具备反爬虫策略绕过经验,可独立完成数据采集全流程开发。

工作履历(脱敏处理)

专注于Web数据采集系统开发,主导JS加密反爬虫方案设计与实施,成功突破动态Token生成机制,实现加密参数动态生成与请求头构造。精通Scrapy框架架构设计,完成分布式爬虫系统搭建,支持高并发数据采集。擅长分页逻辑分析与自动翻页功能开发,通过中间件实现动态Token注入,保障数据连贯性。具备MySQL与MongoDB数据存储方案设计能力,可针对不同数据结构选择最优存储方案。

项目经验(脱敏处理)

1. 开发动态分页爬虫系统:通过Chrome开发者工具定位分页参数生成逻辑,构建Scrapy中间件实现动态Token注入,完成100+页面自动爬取,解决动态加载分页问题。2. 实现JS加密反爬方案:分析网站参数混淆机制,使用hashlib复现MD5加密算法,动态生成加密参数并注入请求头,突破JS加密限制,采集效率提升30%。3. 构建分布式采集架构:设计Scrapy-Redis分布式爬虫框架,实现请求队列管理与结果存储,支持多节点并发采集,保障数据采集完整性。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

1年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接