模型压缩工程师(AI Infra)
BeijingFull-timePosted Aug 31, 2026
Job description
1.负责大模型量化、剪枝、蒸馏等压缩方案的工程实现与性能优化; 2.参与模型压缩训练,优化训练和推理成本; 3.负责压缩模型的框架适配、性能测试与部署落地。
1.熟悉模型量化、剪枝、知识蒸馏等技术原理及工程实践; 2.熟悉 Megatron、TorchTitan、FSDP等至少一种大模型训练框架; 3.熟悉 CUDA/GPU性能分析与优化,具备良好的Python/C++开发能力; 4.了解 vLLM、SGLang、TensorRT-LLM等主流大模型推理框架。 加分项 1.有大模型压缩、低比特量化、分布式训练或推理加速生产落地经验。
Description copied from Aisphere's careers page. Read the full posting before you apply.
More jobs at Aisphere
AI出海应用开发工程师【实习】
Aisphere· ShanghaiAI出海应用开发工程师
Aisphere· Shanghai资深安全工程师
Aisphere· BeijingAI 解决方案工程师(视频生成与 Agent)
Aisphere· Beijing韩语内容运营实习生
Aisphere· Beijing
More jobs in Beijing
Intern (Engineering & digitalization)
Airbus· Beijing AreaIntern-IM& SCM
Hitachi· Beijing, ChinaService design engineer
GE HealthCare· BeiJingIncident Manager
DXC Technology· CHN - BEIJINGMarketing Mgr
Amgen· China - Beijing