模型加速工程师/专家

职位描述： 我们正在寻找一位资深的模型加速工程师，您将成为我们AI核心团队的关键成员。该职位致力于解决前沿深度学习模型（包括常规模型与大模型）在多种异构计算平台（如NVIDIA GPU、高通SoC、地平线BPU等）上的性能瓶颈。您将通过深度的软硬件协同优化，释放硬件极致性能，在保证模型精度的前提下，实现算法的高效、低延迟部署，是连接尖端算法与高性能产品的核心驱动者。 工作职责 模型性能优化与加速：负责公司核心AI算法（涵盖CV、NLP、多模态大模型等）在不同硬件平台（高通、NVIDIA、地平线等）上的性能分析、瓶颈定位与极致优化，达成业务所需的低延迟、高吞吐目标。 精度保障与量化：在模型加速过程中（如INT8/INT4量化、混合精度等），负责设计和实施精度保障方案，确保优化后模型的业务指标满足上线要求。 算子开发与扩展：针对模型中硬件不支持或性能不佳的算子，进行高效的自定义算子开发、优化与集成，扩展硬件的计算能力边界。 图优化技术：深入研究和应用计算图优化（如算子融合、常量折叠、代数化简）和执行图优化（如内存复用、调度优化），从系统层面提升模型端到端性能。 工具链应用与建设：熟练运用TensorRT, TVM, MLIR, SNPE, OpenVINO等业界主流的推理引擎和编译器工具，并根据业务需求参与公司内部模型优化与部署工具链的建设与完善。

优先条件 学历背景：

• 计算机科学、电子工程、自动化、数学或相关专业的本科及以上学历。
• -编程能力：精通C++和Python，具备卓越的工程能力和解决复杂问题的能力。
• • 专业知识： - 深入理解深度学习原理以及主流模型结构（如CNN, Transformer等）。 - 熟悉至少一种深度学习框架，如PyTorch或TensorFlow。 - 对计算机体系结构有深刻认知，理解CPU/GPU/NPU的架构差异与性能特点。
• • 核心技能：
• • 拥有在至少一种主流芯片平台（NVIDIA, 高通, 地平线等）上进行模型部署和优化的实际项目经验。
• • 具备算子开发或底层性能调优（如CUDA/OpenCL编程）的实践经验。
• • 熟悉模型量化、剪枝、知识蒸馏等至少一种模型压缩技术。
• • 优先条件：
• 拥有大语言模型（LLM）或视觉大模型（LVM）的量化与部署优化经验者优先。
• • 熟悉MLIR、TVM等AI编译器技术，有相关开发或贡献经验者优先。
• • 在顶级学术会议（如CVPR, ICCV, NeurIPS, MLSys等）上发表过相关领域论文者优先。
• • 对操作系统底层、驱动程序有一定了解者优先。