大数据研发工程师

📍 杭州市⏱️ 不限🎓 不限 👁️ 1次浏览
薪资面议

岗位职责

1、数据湖仓平台建设 :构建基于Iceberg/Hudi/Delta Lake的企业级数据湖仓平台,实现统一元数据管理、数据组织优化和存储成本控制; 2、流批一体计算架构 :建设Spark/Flink/Trino流批一体计算引擎,支撑大规模数据处理与实时分析,确保数据一致性和时效性; 3、数据治理与质量保障 :建立数据质量门禁体系、Schema Registry服务和OpenLineage数据血缘追踪,实现端到端数据可观测性和可追溯性; 4、系统性能与成本优化 :在Kubernetes平台构建高可用架构,实施查询加速技术和分层存储策略,优化系统SLO和单位计算成本; 5、安全合规与工程效能 :实现RBAC权限控制和数据脱敏机制,建设监控告警体系和自动化发布流水线,满足车规级合规要求。