【校招】前沿智能体安全青年研究员-安全基模中心
Job description
-
研究AI驱动的自动化漏洞挖掘与利用技术,包括构建智能攻防Agent框架,实现多工具协同编排(调试器、反编译器、模糊测试框架、符号执行引擎等),完成从漏洞发现到PoC/Exploit生成的全自动化转化;
-
参与智能体安全评测相关工作,构建数据测试智能体的安全性能,分析新一代AI的潜在安全风险边界,设计评测体系;
-
参与解决智能体安全对齐的问题,包括内对齐、外对齐等,和团队合作开发RLVR等强化学习技术,以及对前沿强化学习路线研究,通过训练或推理时对齐提升智能体安全;
-
主攻前沿AI风险建模、量化识别及可信治理研究,重点攻坚模型对齐失效、数据污染、失控衍生安全风险等关键课题,构建全维度动态风险研判与感知体系。
-
硕士及以上学历,计算机科学、人工智能、网络空间安全或相关专业背景优先;
-
ACM等编程竞赛获奖者,熟悉大模型相关研究的前沿进展,有顶会论文(如NeurIPS, CVPR, CCS等)优先;
-
扎实的编程基础,对数据结构、算法设计基础有深度了解,熟练掌握Python/C++等主流语言一种或多种;
-
熟悉SFT、RLHF、GRPO等后训练方法和框架,能基于实际业务问题,设计合理、高效训练流程;
-
有安全领域相关攻防或对齐经验优先。
Description copied from Shanghai Artificial Intelligence Laboratory's careers page. Read the full posting before you apply.
More jobs at Shanghai Artificial Intelligence Laboratory
【校招】多模态青年研究员/工程师(脑机接口方向)-脑机接口组
Shanghai Artificial Intelligence Laboratory· Shanghai【实习】智能体中心运营实习生
Shanghai Artificial Intelligence Laboratory· Shanghai【实习】科研规划管理实习生(战略)-科研规划与评价中心
Shanghai Artificial Intelligence Laboratory· Shanghai【实习】专项项目管理实习岗 - 总师办
Shanghai Artificial Intelligence Laboratory· Shanghai【实习】AI 研究实习生(大模型训练 / Agentic RL / 智能体 / AI for Materials)
Shanghai Artificial Intelligence Laboratory· Shanghai
More jobs in Shanghai
Senior Manager Business Development
DKSH· Shanghai, SH, CNSales Coordinator
W. R. Grace· Shanghai, SH, CNScheduler
J2w_com_ace1960· Shanghai, CNSenior Application Chemist, Coating
Sun Chemical· Shanghai, SH, CNQA Specialist
Getinge· Shanghai, Changning District, China