Job description
【岗位职责】 1.负责大模型在移动终端的端侧部署与轻量化优化,解决低算力、低功耗、小内存环境下的模型运行问题; 2.运用模型量化(INT4/INT8)、剪枝、蒸馏、算子融合等技术,实现大模型端侧高效推理,保障模型精度与性能平衡; 3.开发端智能应用解决方案,覆盖 AI 手机、智慧屏、无人机等终端场景,适配不同硬件平台(CPU/GPU/NPU); 4.搭建端侧 AI 工具链(模型转换器、性能测试工具、轻量化 SDK),降低中小企业大模型应用开发门槛; 5.联合龙头企业共建端智能应用场景,收集中小企业使用反馈,迭代优化模型适配方案与工具链; 6.跟踪端侧大模型技术前沿(如小参数量模型、实时推理优化),引入创新技术提升基地核心能力。 【任职要求】 1、学历要求:硕士及以上学历 2、专业要求:计算机科学、人工智能、机器学习等相关专业 3、其他要求:了解大模型原理(Transformer 架构),精通端侧推理框架(TFLite/ONNX Runtime/MNN/NCNN);熟悉 PCIe、DMA、中断机制,能解决模型与硬件的协同优化问题;具有PCB设计、工业设计、工业类场景应用等经验或参赛获奖者优先