端侧AI应用工程师

NanjingShanghaiFull-timePosted Apr 9, 2026

Job description

岗位定位: 用 Python 把开源小模型做成「车上能用」:场景微调 → 量化/压缩 → RKNN 转换与精度验收。 岗位职责 负责 1B–3B 级开源小模型(Qwen、ChatGLM 等)的场景微调(SFT / LoRA 等),面向无人车交互、售后问答、车端指令等业务,做出可复现的训练与评测流程; 主导模型量化、剪枝、蒸馏与算子适配,使用 RKNN-Toolkit 完成 RK 系列(RK3588 / 3576 / 182X 等)NPU 转换,给出量化前后精度、时延、显存/NPU 占用对比,达到可上板标准; 建立端侧模型评测集与回归口径(任务准确率、拒答、幻觉、首包/整句时延代理指标),量化或微调后必须过同一套门槛再交付; 向 C++ 推理岗交付标准模型包:RKNN 模型、预处理/后处理约定、词表与特殊 token、推荐 batch/分辨率/上下文长度、已知不支持算子清单; 跟踪开源小模型与端侧量化方法(GPTQ / AWQ / QAT / 混合精度等),在瑞芯微工具链约束下做技术选型,而不是只做一次性转换。 任职要求 核心技能 计算机、人工智能、自动化等相关专业本科及以上,硕士优先;2 年以上大模型微调或端侧量化经验; 精通 Python,熟练使用 PyTorch,能独立完成数据清洗、微调、评测脚本;熟悉 HuggingFace / PEFT/GGUF 等常见训练栈; 有真实量化落地经验(INT8 / INT4 / 混合精度至少一类),能讲清精度掉点原因和补救手段(校准集、敏感层、逐层量化等); 熟悉主流开源小模型结构(Transformer、GQA、RoPE、KV Cache 等),能判断哪些结构/算子在 NPU 上不好映射; 使用过 RKNN-Toolkit 或同类端侧转换工具(ONNX / MNN / TensorRT / OpenVINO 也可,到岗后转 RK);有瑞芯微芯片落地经验者优先; 能读懂 C++ 推理侧的输入输出与性能日志,便于联调;不要求独立承担板上应用开发。 加分项 有端侧语音模型(ASR / TTS / VAD)的量化或蒸馏经验; 有无人车 / 机器人 / 工业现场的领域微调数据构建经验; 有基于 CAN / 时序数据的小模型或故障诊断经验(Pandas / NumPy / Scikit-learn)。 综合素质 对无人驾驶 / 端侧 AI 有兴趣,能把「精度」和「板上能否跑起来」放在同一套目标里,而不是只追开源榜单; 交付讲证据:有评测表、有对比、能量化说明「为什么这个量化点可以上车」; 认同易咖智车「本分、皮实、担当、欲望、卓越」的人才观。

Description copied from Shanghai Ecar Technology's careers page. Read the full posting before you apply.

More jobs at Shanghai Ecar Technology

See all openings at Shanghai Ecar Technology