技能标签
专业技能
精通Python/Java/PHP多语言开发,擅长分布式爬虫框架(Nutch/Scrapy)构建与优化,具备反爬策略设计与破解能力,熟悉App数据抓取技术( Frida/Charles),掌握数据清洗与ETL处理流程,熟悉消息队列(Kafka/RabbitMQ)与分布式锁(Redis)技术,具备良好的产品意识与跨团队协作能力
工作履历(脱敏处理)
主导某大型电商平台后台系统开发,实现订单处理逻辑模块,采用分布式锁保障高并发场景数据一致性,通过消息队列实现异步处理,系统日均处理订单量达50万+。参与爱奇艺分布式爬虫系统优化项目,重构数据抓取架构,引入动态代理技术破解反爬策略,通过验证码识别模块提升数据采集成功率至98%。开发App数据抓取工具链,实现微信等主流App数据采集,建立反反爬机制应对动态加密数据,项目上线后数据采集效率提升200%。
项目经验(脱敏处理)
项目一:电商后台系统开发(2020.03-2021.12)
主导订单处理模块开发,采用分布式锁(Redis)保障高并发场景数据一致性,通过消息队列(Kafka)实现异步处理,系统日均处理订单量达50万+。设计数据清洗管道,使用ETL工具实现数据标准化处理,提升数据可用性至99.5%。
项目二:分布式爬虫系统优化(2021.12-2023.08)
重构爱奇艺分布式爬虫架构,引入动态代理技术破解反爬策略,开发验证码识别模块提升数据采集成功率至98%。优化数据抓取算法,通过多线程调度和负载均衡技术,将数据采集效率提升200%,成功突破目标平台数据采集瓶颈。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
4年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接