【校招】大模型及智能体安全算法工程师/青年研究员-攻防平台中心

ShanghaiFull-timePosted Sep 22, 2026

Job description

  1. 负责面向大模型及智能体安全的世界模型与仿真技术研究,构建可模拟复杂网络环境、探索基于生成式模型、强化学习及多智能体仿真的安全环境建模与交互机制,为模型训练、安全能力演化及复杂攻防任务验证提供高保真模拟环境;

  2. 负责大模型及智能体安全能力评测研究,构建覆盖安全知识、风险识别、代码安全、工具调用、权限边界、长程任务执行、对抗鲁棒性及复杂攻防能力的评测体系、基准数据集与自动化评测平台,研究可扩展评测、自动化红队及动态评测方法,实现对模型与智能体安全能力和风险的系统化量化分析;

  3. 负责大模型及智能体安全前沿技术研究,围绕智能体安全、模型对齐、对抗攻击与防御、越权与滥用风险、自动化红队、可解释安全、机器学习系统安全等方向开展研究,持续跟踪国内外前沿成果,推动新型安全算法、评测方法与防御技术在实际场景中的验证与落地。

  4. 本科及以上学历,计算机科学、信息安全、网络空间安全、软件工程或相关专业背景优先,一年及以上安全领域工作经验者优先;

  5. 具备扎实的机器学习和深度学习基础知识和算法实践能力,了解大模型的设计和训练流程;

  6. 具备安全研究基础,熟悉常见漏洞类型(如内存破坏、逻辑漏洞、Web漏洞等)的原理与利用技术,熟练使用IDA Pro、Ghidra、GDB、AFL、Burp Suite等至少一种逆向分析或漏洞挖掘工具,有代码审计经验、CTF竞赛经验或CVE/CNVD发现经历者优先;

  7. 熟悉常用的深度学习框架和工具,具备良好的编程能力,熟练使用Python、C/C++等编程语言;具备安全工具开发或AI Coding工具安全场景定制经验者优先;

  8. 在CVPR、NeurIPS、ICLR等人工智能会议或CCS、S&P、USENIX Security、NDSS、Black Hat等安全顶会有出色发表记录者优先。

加分项:

  1. 在信息学奥赛、ACM、CTF竞赛(如DEF CON CTF、XCTF等)中获奖;
  2. 具备渗透测试、漏洞挖掘、逆向分析、模糊测试、符号执行等项目经验;
  3. 参与过开源安全工具/框架的开发与维护,或在CNVD、CVE等平台提交过高质量漏洞,有PoC/Exploit开发经验者优先。

Description copied from Shanghai Artificial Intelligence Laboratory's careers page. Read the full posting before you apply.

More jobs at Shanghai Artificial Intelligence Laboratory

See all openings at Shanghai Artificial Intelligence Laboratory

More jobs in Shanghai

See all jobs in Shanghai