数据工程师(数据平台方向)

ShanghaiFull-timePosted Jun 3, 2026

Job description

一、职位描述 作为数据平台工程师,你将参与构建高可用、高吞吐的底层数据架构。你需要深入理解分布式系统的运行机制,针对计算/分析引擎进行深度定制,并负责海量数据在复杂架构下的高效流转。我们期待你能够为上层业务和大规模 AI 计算提供稳定、一致且极致性能的基础设施支撑。

二、岗位职责

  1. 分析引擎定制:深度参与高性能 OLAP 引擎(如 ClickHouse、Apache Doris 等)的底层定制、查询优化与高可用集群架构演进,支撑高并发的实时分析需求。
  2. 数据流转与一致性:设计并研发高吞吐的大规模异构数据同步与接入系统(如 CDC 实时链路、大规模数据迁移等),解决复杂网络与极端数据洪峰下的端到端数据一致性与延迟问题。
  3. 计算引擎调优:深度参与分布式计算引擎(如 Spark、Ray、Daft)的定制与性能调优,解决大模型计算和复杂 ETL 场景下的性能瓶颈。
  4. 存储底座演进:基于现代数据湖技术(如 Apache Iceberg、Lance)构建统一的元数据管理与存储系统。
  5. 攻坚稳定性:主导线上复杂系统的故障排查,解决内存泄漏、网络拥塞、分布式死锁等深层次的稳定性问题。

一、任职要求

  1. 3 年以上大规模分布式系统开发经验,具备扎实的操作系统、网络和数据库底层基础。
  2. 深入理解主流 MPP 架构及实时分析引擎(如 ClickHouse、Doris 等)的存储结构、索引原理与执行模型,具备集群级性能调优及二次开发经验。
  3. 对数据传输和分布式事务有深刻认识,熟悉异构数据源间的同步机制,能在高并发场景下保障严格的数据一致性(如 Exactly-Once 语义的实现)。
  4. 精通至少一种后端或系统级语言(Rust、Go 或 Java),代码习惯良好,注重工程质量。
  5. 具备丰富的线上环境 Debug 和性能 Profiling 经验,能熟练定位复杂的调用链路及底层资源瓶颈。

二、加分项

  1. 【核心加分】在主流数据或基础设施开源项目(如 Doris、ClickHouse、Ray、Spark、Iceberg 等)中有核心源码贡献(PR/Committer)。
  2. 具备底层系统重构经验,或主导过超大规模集群架构演进。

Description copied from Mosi Intelligence's careers page. Read the full posting before you apply.

More jobs at Mosi Intelligence

See all openings at Mosi Intelligence