AI 安全平台研发工程师

定位：AI 安全工程化落地方向，负责安全护栏、审核平台、风控策略系统与运营工具建设。 岗位职责

1. 负责 AI 内容安全审核后台、风控拦截系统、策略配置平台的开发与迭代，支撑文本、图片、音频、视频等多模态内容的自动审核、人工复核、风险标记、违规处置等核心流程。
2. 建设 AI 安全运营工具体系，包括风险监控大盘、告警系统、案例归集、误判/漏判分析、策略效果评估、日志审计与溯源工具，提升安全运营和策略迭代效率。
3. 参与安全护栏能力建设，围绕 Prompt 注入、越狱攻击、违规内容生成、敏感信息泄露、恶意使用等风险，设计并落地检测、拦截、分级、处置方案。
4. 沉淀标准化安全能力组件与交付工具，包括 AI 内容标识、举报反馈、审核流配置、策略模板、合规报表等，支持线上产品迭代及私有化客户交付。
5. 结合大模型能力提升安全运营效率，包括风险样本自动归类、审核辅助研判、误判纠正、样本清洗、规则生成与评测数据构建。

任职要求

1. 本科及以上学历，计算机、软件工程、信息安全、人工智能等相关专业优先；1-3 年后端开发、风控平台、内容安全、审核系统或大模型应用安全相关经验。
2. 具备扎实的后端工程能力，熟悉至少一种主流开发语言，如 Python、Go、Java、Node.js；熟悉数据库、缓存、消息队列、日志系统等常见后端基础组件。
3. 熟悉内容安全、风控策略或审核平台相关业务流程，理解策略配置、规则引擎、人工复核、风险分级、处置闭环、效果评估等机制。
4. 对 AI 工具有较强使用能力，能用大模型辅助开发、数据清洗、样本分析、规则生成、测试用例构建等工作，具备 AI Native 工作习惯。