TheJobsMapXiaomi
871 open roles
AI基建-大模型推理框架开发工程师
BeijingFull-timePosted Jan 26, 2026
Job description
- 负责基于 vLLM、SGLang 等技术的大模型推理框架的开发工作，包括但不限于设计和实现高效的推理引擎架构，优化推理过程中的计算流程，提高推理性能，以满足不同规模大模型的实时推理需求
- 复杂大模型框架性能评估和调优工作，构建并完善性能监控体系，通过实时监测训练指标，定位性能瓶颈，提出优化方案，确保在不同硬件上达到最优性能。
- 负责Cuda Kernel优化，开发高性能的GPU算子, 提升大模型推理性能
Description copied from Xiaomi's careers page. Read the full posting before you apply.
More jobs at Xiaomi
IFS解决方案专家
Xiaomi· Beijing小米汽车-交付延展专员-泰州
Xiaomi· Taizhou小米汽车-机电工程师-苏州
Xiaomi· Suzhou小米汽车-事故顾问-苏州
Xiaomi· Suzhou风控算法工程师（AI智能风控方向）
Xiaomi· Beijing
More jobs in Beijing
Country Manager - Business Coordination
Beijing Automotive Group· Beijing, ChinaProducer, Creative, China (Freelance, 12 months)
Paramount Skydance· Beijing, BJ, CN, 100025销售经理
Cargill· Beijing, CN China, 100027Therapy Development Specialist - China
AtriCure· Beijing, China; Chengdu, China; Guangzhou, China; Shanghai, China; Wuhan, ChinaPSE-CVD、CMP、Etch
Applied Materials· Beijing, CHN