MiMo-大模型推理框架开发工程师

BeijingFull-timePosted Jan 26, 2026

Apply for this role

Job description

负责基于 vLLM、SGLang 等技术的大模型推理框架的开发工作，包括但不限于设计和实现高效的推理引擎架构，优化推理过程中的计算流程，提高推理性能，以满足不同规模大模型的实时推理需求
复杂大模型框架性能评估和调优工作，构建并完善性能监控体系，通过实时监测训练指标，定位性能瓶颈，提出优化方案，确保在不同硬件上达到最优性能。
负责Cuda Kernel优化，开发高性能的GPU算子, 提升大模型推理性能