模型部署优化工程师
Job description
1)计算机科学、人工智能、电子工程、自动化等相关专业硕士及以上学历(优秀本科生且有3年以上相关经验可放宽) 2)3年以上深度学习模型部署、端侧AI推理优化或高性能计算相关经验 3)精通 C/C++ 与 Python,具备扎实的计算机体系结构知识,熟悉Linux环境下的开发与调试 4)深入理解深度学习模型训练与推理流程,了解 PyTorch,熟悉模型导出(ONNX/TorchScript)与转换流程 5)精通 NVIDIA Orin/Thor 平台开发,熟练掌握 CUDA 编程、TensorRT 推理优化及Nsight性能分析工具 6)熟悉 ROS2 框架,具备节点开发经验 7)熟悉模型量化(PTQ/QAT)、剪枝、蒸馏等压缩技术,有实际落地项目经验 8)熟悉Transformer架构及LLM/VLM推理机制,了解Prefill、Decode、KV Cache、Attention优化等核心概念
1)计算机科学、人工智能、电子工程、自动化等相关专业硕士及以上学历(优秀本科生且有3年以上相关经验可放宽) 2)3年以上深度学习模型部署、端侧AI推理优化或高性能计算相关经验 3)精通 C/C++ 与 Python,具备扎实的计算机体系结构知识,熟悉Linux环境下的开发与调试 4)深入理解深度学习模型训练与推理流程,了解 PyTorch,熟悉模型导出(ONNX/TorchScript)与转换流程 5)精通 NVIDIA Orin/Thor 平台开发,熟练掌握 CUDA 编程、TensorRT 推理优化及Nsight性能分析工具 6)熟悉 ROS2 框架,具备节点开发经验 7)熟悉模型量化(PTQ/QAT)、剪枝、蒸馏等压缩技术,有实际落地项目经验 8)熟悉Transformer架构及LLM/VLM推理机制,了解Prefill、Decode、KV Cache、Attention优化等核心概念
Description copied from Utopilot's careers page. Read the full posting before you apply.
More jobs at Utopilot
系统架构工程师
Utopilot· Shanghai采购工程师
Utopilot· Shanghai液压工程师
Utopilot· Shanghai电气工程师
Utopilot· Shanghai结构件开发工程师
Utopilot· Shanghai