【校招】大模型及智能体安全算法工程师/青年研究员-攻防平台中心
Job description
-
负责面向大模型及智能体安全的世界模型与仿真技术研究,构建可模拟复杂网络环境、探索基于生成式模型、强化学习及多智能体仿真的安全环境建模与交互机制,为模型训练、安全能力演化及复杂攻防任务验证提供高保真模拟环境;
-
负责大模型及智能体安全能力评测研究,构建覆盖安全知识、风险识别、代码安全、工具调用、权限边界、长程任务执行、对抗鲁棒性及复杂攻防能力的评测体系、基准数据集与自动化评测平台,研究可扩展评测、自动化红队及动态评测方法,实现对模型与智能体安全能力和风险的系统化量化分析;
-
负责大模型及智能体安全前沿技术研究,围绕智能体安全、模型对齐、对抗攻击与防御、越权与滥用风险、自动化红队、可解释安全、机器学习系统安全等方向开展研究,持续跟踪国内外前沿成果,推动新型安全算法、评测方法与防御技术在实际场景中的验证与落地。
-
本科及以上学历,计算机科学、信息安全、网络空间安全、软件工程或相关专业背景优先,一年及以上安全领域工作经验者优先;
-
具备扎实的机器学习和深度学习基础知识和算法实践能力,了解大模型的设计和训练流程;
-
具备安全研究基础,熟悉常见漏洞类型(如内存破坏、逻辑漏洞、Web漏洞等)的原理与利用技术,熟练使用IDA Pro、Ghidra、GDB、AFL、Burp Suite等至少一种逆向分析或漏洞挖掘工具,有代码审计经验、CTF竞赛经验或CVE/CNVD发现经历者优先;
-
熟悉常用的深度学习框架和工具,具备良好的编程能力,熟练使用Python、C/C++等编程语言;具备安全工具开发或AI Coding工具安全场景定制经验者优先;
-
在CVPR、NeurIPS、ICLR等人工智能会议或CCS、S&P、USENIX Security、NDSS、Black Hat等安全顶会有出色发表记录者优先。
加分项:
- 在信息学奥赛、ACM、CTF竞赛(如DEF CON CTF、XCTF等)中获奖;
- 具备渗透测试、漏洞挖掘、逆向分析、模糊测试、符号执行等项目经验;
- 参与过开源安全工具/框架的开发与维护,或在CNVD、CVE等平台提交过高质量漏洞,有PoC/Exploit开发经验者优先。
Description copied from Shanghai Artificial Intelligence Laboratory's careers page. Read the full posting before you apply.
More jobs at Shanghai Artificial Intelligence Laboratory
【校招】多模态青年研究员/工程师(脑机接口方向)-脑机接口组
Shanghai Artificial Intelligence Laboratory· Shanghai【实习】智能体中心运营实习生
Shanghai Artificial Intelligence Laboratory· Shanghai【实习】科研规划管理实习生(战略)-科研规划与评价中心
Shanghai Artificial Intelligence Laboratory· Shanghai【实习】专项项目管理实习岗 - 总师办
Shanghai Artificial Intelligence Laboratory· Shanghai【实习】AI 研究实习生(大模型训练 / Agentic RL / 智能体 / AI for Materials)
Shanghai Artificial Intelligence Laboratory· Shanghai
More jobs in Shanghai
Senior Manager Business Development
DKSH· Shanghai, SH, CNSales Coordinator
W. R. Grace· Shanghai, SH, CNScheduler
J2w_com_ace1960· Shanghai, CNSenior Application Chemist, Coating
Sun Chemical· Shanghai, SH, CNQA Specialist
Getinge· Shanghai, Changning District, China