流式推理后端工程师

我们正在寻找对多模态大模型技术充满热情、具备扎实工程实践能力的流式推理集成工程师。您将作为核心技术成员，负责将前沿的多模态大模型（包括视觉-语言模型等）集成到我们的产品与服务中，并构建高可用、高效率的流式推理服务平台。您需要具备优秀的编程能力、系统思维和实际问题解决能力，与算法团队紧密协作，推动模型从实验环境到生产环境的落地，直接影响数百万用户的产品体验。

基本条件 1、211院校及以上，计算机科学、软件工程、人工智能或相关专业，本科及以上学； 2、3年以上分布式系统研发经验，1 年以上机器学习/深度学习系统开发、模型部署或推理服务相关工作经验； 3、对多模态大模型的基本原理有理解，并有强烈的兴趣深入该领域。 技术能力 1、编程与框架：精通Python，熟悉C++/Java/Go之一。熟悉PyTorch，Ray的原理与应用； 2、模型工程化：具备丰富的模型部署经验，熟悉至少一种模型优化与部署工具链（如TensorRT、Triton Inference Server、OpenVINO、FastAPI等）； 3、系统开发：有扎实的后端服务开发经验，熟悉Linux开发环境，掌握Docker容器化技术，熟练应用Kubernetes等编排工具； 4、扎实的基础知识：熟悉计算机体系结构、操作系统、计算机网络、多线程编程等基础知识； 5、工程素养：熟悉CI/CD流程、代码版本管理（Git），具备良好的编码习惯与文档编写能力。 优先考虑 1、有流式推理、实时音视频或直播产品后端研发相关经验者； 2、有多模态大模型（视觉-语言相关）实际部署与调优经验； 3、有大规模分布式推理服务或高并发在线系统开发经验； 4、在开源社区有相关项目贡献或技术博客。 个人特质 1、具备出色的逻辑思维能力、问题分析与解决能力； 2、良好的沟通能力、团队协作精神和强烈的责任心； 3、自我驱动，乐于接受挑战，能在快节奏环境中高效工作。