【校招】大模型及智能体安全算法工程师/青年研究员-安全基模中心

1.开展基于强化学习的大模型智能体安全策略设计与验证，重点研究 Agent 对齐机制，包括任务执行安全、目标保持和策略泛化等方向，不断提升智能体的可靠性和安全性； 2.安全攻防技术研究：研究大语言模型、多模态模型的潜在安全风险；开发针对模型推理、训练阶段的攻击技术；可解释性分析并设计新型防御方案； 3.设计智能体的异常干预机制和反馈奖励建模算法，优化强化学习流程，确保智能体在复杂环境下能及时纠正异常行为，并持续朝着预期目标优化策略； 4.探索多智能体系统的安全协同方法，制定多 Agent 对齐策略，确保多个智能体交互过程中的目标一致性和决策可信度，防范潜在的协同失效或冲突。

1.教育背景： 计算机科学、人工智能、自动控制、信息安全等相关专业硕士及以上学历。 2.专业技能： 熟练掌握 RLHF 和多智能体对齐等前沿技术，深入理解强化学习原理。 3.能力素质： 拥有扎实的理论基础和数学功底，优秀的算法设计与代码实现能力，善于分析和解决复杂问题，富有创新精神和团队合作意识。 4.加分项：有相关领域如NeurIPS/CVPR/CCS高水平论文发表过智能体、强化学习或 AI 安全相关论文；