技能标签
专业技能
精通Java/Scala开发,具备大数据平台架构设计能力;熟练掌握DataWorks/MaxCompute生态组件,具备离线与实时数据处理经验;擅长使用Flink/FlinkSQL进行流式计算,具备性能调优能力;精通Spark生态(SparkSQL/SparkStreaming)开发及优化;深入理解Hadoop体系(HDFS/YARN/MapReduce);熟练使用HiveSQL进行离线分析,具备数据倾斜问题解决经验;熟悉OLAP数据库(ClickHouse/Druid/Impala+Kudu);具备HBase存储优化及Rowkey设计能力;掌握Azkaban/Oozie任务调度工具;熟悉实时数仓架构设计与维度建模
工作履历(脱敏处理)
主导实时数仓架构设计与实施,完成从数据采集、清洗、存储到多维分析的全链路开发。设计基于Flink的实时数据管道,实现日均千万级数据的实时处理与分析,通过动态分区和状态管理优化系统吞吐量。构建离线数据仓库,完成多维分析模型设计与数据倾斜问题解决,提升查询效率30%。主导HBase存储优化,通过Rowkey设计与数据分区策略降低热点问题。开发自动化任务调度体系,整合Azkaban/Oozie工具实现复杂ETL流程的稳定运行。
项目经验(脱敏处理)
固定成本报表分析平台:基于DataWorks构建数据开发平台,设计多维分析模型支撑企业经营决策。完成日志数据清洗与维度建模,实现多维离线计算(小计/月累计)开发,优化数据处理效率。设计实时数据管道,整合Kafka/Canal实现业务数据实时同步,通过FlinkSQL构建实时分析视图。解决HiveSQL数据倾斜问题,采用分桶表与数据重分布策略提升查询性能。搭建OLAP数据库集群,实现即席查询响应时间缩短至秒级,支撑业务实时分析需求。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
4年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接