IT人力外包人才简历库

返回列表

大数据平台开发工程师

驻场外包人员
工作年限:3年 意向城市:杭州 浏览:1次 发布时间:近期

技能标签

Hadoop Flink Spark Kafka HBase Hive SQL Java Scala Shell Doris Redis DolphinScheduler 数据迁移 实时计算 ETL开发

专业技能

精通Hadoop生态体系(HDFS/YARN/MapReduce/Flume/Sqoop),掌握实时计算引擎(Flink/Spark Streaming),熟悉分布式数据库(HBase/Kafka),擅长数据仓库架构设计(Hive/数仓模型),精通Java开发(Spark/Flink),熟练使用Shell/Python脚本,熟悉Doris/Redis/MySQL等数据存储方案,具备数据迁移与ETL开发能力

工作履历(脱敏处理)

主导工业设备监控平台重构,完成从Storm+MySQL架构向Kafka+Flink+Doris架构的迁移,实现数据处理效率提升300%。设计实时数据处理流水线,通过Flink窗口函数优化降低Redis依赖,构建Doris数据仓库实现结果表自动汇总。开发数据迁移工具完成MySQL到Doris的亿级数据迁移,设计并实施DolphinScheduler任务调度体系,提升运维效率。参与文旅大数据平台建设,搭建实时数据采集与分析体系,实现旅游行为数据的实时监控与可视化展示。

项目经验(脱敏处理)

工业设备监控平台:基于Kafka+Flink+HBase+Doris构建实时数据处理架构,替代原有Storm+MySQL方案。实现数据采集、实时计算、存储与可视化全链路优化,通过Flink窗口函数减少Redis依赖,利用Doris计算能力降低代码处理压力。开发数据迁移工具完成MySQL到Doris的亿级数据迁移,设计DolphinScheduler任务调度体系提升运维效率,系统整体性能提升300%。

文旅大数据平台:搭建实时数据采集与分析体系,实现旅游行为数据的实时监控与可视化展示。设计离线数仓架构完成区域旅游产品分析,开发舆情监控模块实现多源数据融合。通过Flink流处理引擎实现实时数据计算,构建Doris数据仓库支撑多维数据分析,支撑业务决策与模式创新。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

3年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接