端侧AI应用工程师
Job description
岗位定位: 用 Python 把开源小模型做成「车上能用」:场景微调 → 量化/压缩 → RKNN 转换与精度验收。 岗位职责 负责 1B–3B 级开源小模型(Qwen、ChatGLM 等)的场景微调(SFT / LoRA 等),面向无人车交互、售后问答、车端指令等业务,做出可复现的训练与评测流程; 主导模型量化、剪枝、蒸馏与算子适配,使用 RKNN-Toolkit 完成 RK 系列(RK3588 / 3576 / 182X 等)NPU 转换,给出量化前后精度、时延、显存/NPU 占用对比,达到可上板标准; 建立端侧模型评测集与回归口径(任务准确率、拒答、幻觉、首包/整句时延代理指标),量化或微调后必须过同一套门槛再交付; 向 C++ 推理岗交付标准模型包:RKNN 模型、预处理/后处理约定、词表与特殊 token、推荐 batch/分辨率/上下文长度、已知不支持算子清单; 跟踪开源小模型与端侧量化方法(GPTQ / AWQ / QAT / 混合精度等),在瑞芯微工具链约束下做技术选型,而不是只做一次性转换。 任职要求 核心技能 计算机、人工智能、自动化等相关专业本科及以上,硕士优先;2 年以上大模型微调或端侧量化经验; 精通 Python,熟练使用 PyTorch,能独立完成数据清洗、微调、评测脚本;熟悉 HuggingFace / PEFT/GGUF 等常见训练栈; 有真实量化落地经验(INT8 / INT4 / 混合精度至少一类),能讲清精度掉点原因和补救手段(校准集、敏感层、逐层量化等); 熟悉主流开源小模型结构(Transformer、GQA、RoPE、KV Cache 等),能判断哪些结构/算子在 NPU 上不好映射; 使用过 RKNN-Toolkit 或同类端侧转换工具(ONNX / MNN / TensorRT / OpenVINO 也可,到岗后转 RK);有瑞芯微芯片落地经验者优先; 能读懂 C++ 推理侧的输入输出与性能日志,便于联调;不要求独立承担板上应用开发。 加分项 有端侧语音模型(ASR / TTS / VAD)的量化或蒸馏经验; 有无人车 / 机器人 / 工业现场的领域微调数据构建经验; 有基于 CAN / 时序数据的小模型或故障诊断经验(Pandas / NumPy / Scikit-learn)。 综合素质 对无人驾驶 / 端侧 AI 有兴趣,能把「精度」和「板上能否跑起来」放在同一套目标里,而不是只追开源榜单; 交付讲证据:有评测表、有对比、能量化说明「为什么这个量化点可以上车」; 认同易咖智车「本分、皮实、担当、欲望、卓越」的人才观。
Description copied from Shanghai Ecar Technology's careers page. Read the full posting before you apply.
More jobs at Shanghai Ecar Technology
成本会计
Shanghai Ecar Technology· Nanjing智驾测试工程师
Shanghai Ecar Technology· Nanjing标准法规经理
Shanghai Ecar Technology· Shanghai; Nanjing耐久性测试工程师
Shanghai Ecar Technology· Nanjing政府事务总监
Shanghai Ecar Technology· Shanghai