技能标签
专业技能
精通Hive SQL与海量数据处理,具备复杂查询性能调优经验;掌握维度建模(Kimball)方法论,擅长ETL数据架构设计;熟悉Hadoop生态(HDFS/YARN/MapReduce)、Redis、MySQL、Kafka、ClickHouse、HBase等组件;精通Spark Core/Streaming、Flink实时流式计算框架;熟练使用Sqoop/Flume/Canal数据同步工具;掌握Oozie/Azkaban调度系统及Zookeeper协调服务;具备企业级大数据集群部署与运维能力;精通Java/Scala/Python开发语言;熟悉Superset数据可视化工具
工作履历(脱敏处理)
专注于大数据平台架构设计与开发,主导数据仓库体系搭建,通过维度建模方法论构建统一数据模型,显著提升数据处理效率与分析准确性。主导实时计算平台建设,采用Spark Streaming与Flink实现高并发数据处理,支撑业务实时分析需求。设计并实施数据同步方案,整合Kafka、Canal等工具构建数据管道,解决数据孤岛问题。具备企业级大数据集群部署与运维经验,优化集群资源调度策略,提升系统稳定性与扩展性。持续优化ETL流程,通过性能调优降低数据处理延迟,提升整体数据交付效率。
项目经验(脱敏处理)
项目名称:智能交通数据平台
项目描述:针对业务数据分散、模型不统一导致的分析难题,构建统一数据中间层。通过Kimball维度建模方法论设计数据仓库架构,解决数据版本迭代与模型一致性问题。采用Kafka实现高吞吐数据采集,利用Flink进行实时流式计算,构建实时数据处理管道。优化ETL流程,通过Sqoop/Flume实现多源数据同步,结合ClickHouse构建实时分析引擎。设计数据质量校验机制,确保数据准确性与完整性。开发订单/库存/流量等核心宽表,支撑业务分析与决策需求。建立技术文档体系,持续迭代优化数据模型与处理流程,降低重复开发成本30%以上。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
5年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接