Job description
团队与岗位背景:
我们致力于将 AI 算法与大模型能力高效、稳定地落地到端侧智能设备。团队自研一套贯穿"推理框架 → 算法模型 → 产品交付"的端侧 AI 工程体系,支撑算法在多种硬件平台与多种交付形态下的复用与量产。本岗位将主导这套核心工程体系的维护与持续演进,并推动大模型部署与推理加速,是连接算法研发与产品落地、决定交付效率与质量的关键技术角色。
岗位职责:
- 端侧推理框架的维护与演进:负责底层推理抽象层与多种 AI 加速硬件后端的适配、封装与优化,持续提升框架的可复用性、可维护性与跨平台一致性。
- 算法工程化落地:将训练侧产出的检测/跟踪等模型集成进产品,完成从模型配置、推理管线编排、交叉编译到端侧设备上板验证的全链路工作。
- 大模型部署与推理加速:推动大模型(LLM / 多模态 / 生成式模型)在云端环境的落地,负责模型压缩、推理优化与加速,在有限算力/内存/带宽下达成可用的性能与效果。
- 产品线的快速派生与复用:基于既有工程模板,高效派生新产品(挂载不同模型、编排不同管线、适配不同硬件平台),沉淀可复用的脚手架与自动化交付流程。
- 构建与交付自动化:维护一键式构建/打包脚本(依赖治理、运行时库自动收拢、产物分层交付等),降低交付门槛、保证产物开箱即用。
- 跨团队协作与技术把关:对接算法训练、集成交付、芯片原厂等多方,在接口、依赖、性能、正确性上把关,推动业务端到端落地。
- 质量与稳定性:主导代码质量,识别并消除内存安全、并发生命周期、资源管理、边界条件等隐患,建立可上板复现的验证方法。