AI工程师 - 平台

BeijingFull-timePosted Feb 11, 2026

Job description

  1. 负责公司核心AI平台的架构设计、研发与持续演进,支撑多业务线稳定高效运行。
  2. 参与平台化、服务化、组件化建设,沉淀通用平台能力
  3. 负责高并发、高可用系统的设计与实现,持续优化性能、稳定性与成本。
  4. 参与 大模型平台 / 模型网关(LLM Gateway) 建设,包括但不限于:
  • 多模型接入与统一抽象
  • 请求路由、模型调度、版本与能力管理
  • 配额、限流、计费、审计等平台能力
  1. 参与GPU / 推理资源调度与管理相关后端逻辑:
  • 资源分配与隔离
  • 并发控制、队列、优先级、回退策略
  • 成本、利用率与稳定性优化
  1. 参与数据库与存储方案设计(关系型 / NoSQL / 缓存 / OLAP),解决数据一致性与扩展性问题。

  2. 对线上问题进行定位和根因分析,建立系统化的稳定性治理机制。

  3. 本科及以上学历,计算机相关专业,3 年及以上后端开发经验。

  4. 扎实的计算机基础:

  • 数据结构与算法
  • 操作系统、计算机网络
  • 常见设计模式
  1. 精通至少一门后端语言:
  • Go / Java / Rust / Python
  1. 熟悉常见后端架构:
  • REST / RPC(gRPC、Thrift 等)
  • 微服务架构
  1. 熟悉常用中间件:
  • 数据库:MySQL / PostgreSQL
  • 缓存:Redis
  • 消息队列:Kafka / Pulsar / RabbitMQ
  1. 具备良好的系统设计能力,能够独立完成模块或子系统设计。

加分项

  1. 有大模型平台 / 模型调度 / 推理服务相关经验者优先,包括但不限于:
  • 类似 OpenRouter / LLM Gateway / Model Proxy 的系统
  • 多模型路由、Fallback、灰度、限流
  1. 有大数据基础设施建设经验者优先,包括但不限于:
  • 数据平台 / 数据湖 / 数据仓库
  • Flink / Spark / Kafka 等生态
  • 数据服务化、元数据、权限治理
  1. 熟悉云原生技术:
  • Docker、Kubernetes
  • Helm / Operator
  1. 熟悉可观测性体系:
  • Prometheus / Grafana
  • OpenTelemetry
  1. 有高并发、大流量、复杂系统的设计与优化经验。

Description copied from Kaon's careers page. Read the full posting before you apply.

More jobs at Kaon

See all openings at Kaon