技能标签
专业技能
精通Hadoop生态体系(HDFS/MapReduce/YARN)、Spark实时计算框架、Flink流处理引擎,熟悉Hive/ClickHouse数据仓库架构设计,掌握Kafka消息队列与数据同步技术,具备ETL数据处理经验,熟悉数据建模与OLAP分析,熟练使用Python/Java进行数据开发,了解分布式系统调优与容错机制,具备微服务架构设计能力,熟悉RESTful API开发与接口性能优化
工作履历(脱敏处理)
作为大数据系统开发负责人,主导企业级数据仓库建设,完成从数据采集、ETL处理到OLAP分析的全链路架构设计,采用Hive+ClickHouse混合存储方案,实现数据查询性能提升40%。主导用户画像系统开发,构建基于Flink的实时推荐引擎,支持千万级用户画像计算,推荐点击率提升25%。负责app运营管理后台接口开发,采用Spring Boot+MyBatis架构,设计分布式事务解决方案,保障系统高并发稳定性。持续进行技术选型与架构调优,优化Spark作业调度策略,降低集群资源消耗15%。
项目经验(脱敏处理)
1. 企业级数据仓库建设项目:设计基于Hadoop生态的数据仓库架构,采用Hive进行离线数据处理,结合ClickHouse实现实时分析查询,构建统一数据视图,支撑多业务系统数据服务。技术挑战:海量数据处理性能瓶颈,解决方案:通过分区策略优化和列式存储提升查询效率。
2. 用户画像与feed流推荐系统:基于Flink构建实时推荐引擎,整合用户行为数据进行特征提取,采用协同过滤算法实现个性化推荐,支持千万级用户并发计算。技术挑战:实时数据处理延迟,解决方案:优化Flink窗口函数与状态管理机制,实现亚秒级响应。
3. App运营管理后台开发:设计微服务架构,采用Spring Boot+MyBatis实现业务模块解耦,通过API网关统一鉴权与流量控制,支持百万级接口调用。技术挑战:高并发场景下的系统稳定性,解决方案:引入Redis缓存与异步队列,实现系统吞吐量提升3倍。
4. 数据接口平台建设:搭建统一数据服务接口,采用RESTful API规范,支持多业务系统数据对接,设计数据脱敏与权限控制策略,保障数据安全。技术挑战:多源数据格式差异,解决方案:开发通用数据解析器,支持JSON/XML等多种数据格式转换。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
5年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接