IT人力外包人才简历库

返回列表

数据采集与爬虫开发工程师

驻场外包人员
工作年限:3年 意向城市:杭州 浏览:3次 发布时间:近期

技能标签

Python Scrapy 分布式爬虫 数据解析 MySQL Redis Linux 反爬虫策略 网络请求 抓包工具 版本控制 负载均衡 日志分析 异常处理 系统监控

专业技能

精通Python网络请求库(Requests/urllib)、爬虫框架(Scrapy/BeautifulSoup)、分布式爬虫架构(Scrapy-Redis)、数据解析(XPath/BeautifulSoup)、数据库(MySQL/Redis)、Linux系统操作(Shell脚本)、反爬虫策略(User-Agent/代理IP)、抓包工具(Wireshark/Fiddler)、版本控制(Git)

工作履历(脱敏处理)

专注于数据采集系统开发与优化,主导设计分布式爬虫架构实现大规模数据采集。熟练运用Scrapy框架构建高并发采集系统,通过Redis实现任务分发与结果存储。精通网络请求库的定制化配置,有效解决反爬虫策略(IP封禁/验证码识别)。开发自动化监控系统实现采集任务状态追踪,通过日志分析优化采集效率。具备完整的系统部署与运维能力,保障7×24小时稳定运行。

项目经验(脱敏处理)

主导电商类网站数据采集项目,采用Scrapy-Redis分布式架构实现日均20亿条数据采集。设计动态IP代理池应对反爬虫策略,开发验证码识别模块提升采集成功率。构建分布式任务调度系统实现负载均衡,通过Redis缓存优化数据存储效率。开发自动化监控平台实时追踪采集状态,建立异常处理机制保障系统稳定性。完成直播平台实时数据采集系统,支持百万级并发请求处理,实现数据采集效率提升300%。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

3年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接