AI治理网关工程师

一、岗位职责

1. AI 治理网关核心研发与架构设计
2. 对标OpenRouter、Portkey等行业标杆，构建兼具高可用、高并发、高扩展性的技术体系，支撑产品从MVP到行业头部的全周期迭代。
3. 基于Go语言主导AI网关核心模块开发，负责请求路由、流量管控、协议转换等核心功能实现
4. 基于Envoy构建高性能数据平面，设计控制平面与数据平面的交互逻辑，优化网关转发性能
5. 大模型服务适配与链路优化
6. 设计 AI 治理网关与大模型推理/训练服务对接方案，支持多模型版本管理、A/B测试、智能路由
7. Agent全生命周期运行时治理能力，包括断点续跑、语义缓存、上下文压缩、无效循环拦截等核心降本机制
8. 实现网关层模型调用鉴权、配额管理、成本计量核心能力
9. 高可用与可观测性建设
10. 搭建全链路监控体系，实现请求追踪、指标监控、异常告警
11. 主导网关容灾方案设计，规避单点故障，保障整体服务可用性
12. 实现熔断、降级、限流策略，保障大模型服务稳定调用
13. 探索 AI Agent 网关业务场景，基于 MCP、A2A 协议完成方案设计与落地赋能

二、任职要求 （一）学历与经验

1. 本科及以上，计算机相关专业
2. 3-5年后端开发经验：3年以上Go开发经验 + 2年以上Envoy/同类Proxy网关研发经验
3. 熟悉K8s生态：服务编排、服务发现、Ingress控制器原理与落地
4. 行业认知匹配：深入理解大模型推理网关、LLM中间件、Agent基础设施赛道，熟悉OpenAI、Anthropic等主流大模型API协议，有多模型路由、推理调度、容灾降级相关项目经验
5. 技术深度达标：懂大模型推理优化原理，接触过Token压缩、语义缓存、模型分级调度等降本方案，有推理侧性能优化、成本优化的实操经验 （二）核心技术能力
6. Go深度精通：并发编程、内存调优，熟练Gin、Go-Micro主流框架
7. Envoy底层掌握：架构原理、配置模型、扩展机制，可二次开发与定制配置
8. K8s深度实践：掌握K8s API、CRD、Operator模式，可基于K8s搭建网关自动化运维体系
9. 网络协议：熟悉HTTP/2、gRPC原理，具备网络性能调优实战经验
10. 分布式存储：Redis、etcd在网关场景落地（分布式限流、配置同步等） 优先加分项
11. 拥有 Nginx / Envoy / Higress / Istio 等开源网关二次开发、架构改造、深度性能优化经验。
12. 在万级QPS高并发网络、全局流量调度、底层协议优化任一方向有深度技术沉淀。
13. 对 AI 领域有深度思考，具备 AI Agent 网关落地实操经验，熟悉 MCP、A2A 协议。
14. 有大规模集群、全球化网关、全链路容灾体系完整搭建落地经验。