岗位描述
岗位职责(具体工作内容)
岗位职责
1、负责线上安全数据的挖掘、清洗与标注,通过数据分析识别潜在风险,辅助优化安全模型
2、探索AI辅助安全场景,参与智能化安全工作流程的搭建与优化
3、参与内部Agent运行时安全告警的研判与处置,识别提示注入、越狱攻击等常见风险
4、参与大模型安全扫描与风险分析,跟踪技能全生命周期安全状态,输出审计报告
5、关注大模型与Agent安全攻防动态,收集分析攻击样本,协助构建风险指标体系
6、配合团队完成安全相关工作,参与大模型安全合规事项
任职资格(学历、目标院校、语言、技能、性格等要求)
岗位要求
1、本科及以上学历,计算机、信息安全、软件工程、人工智能、网络安全、统计等相关专业
2、具备独立编写Python脚本能力,了解Pandas、NumPy等常用库,具备基本的数据处理能力
3、对大模型攻防有一定了解,如提示注入、越狱攻击、工具调用攻击等常见手法
4、了解传统Web安全基础知识,如SQL注入、XSS等常见攻击原理
5、对内容安全有基本认知,能识别常见违规内容类型
素质要求
1、具备逻辑思维能力与问题分析能力,能够快速理解复杂业务场景并转化为检测分析任务。
2、工作认真负责、细心严谨,对安全风险有高度的敏感性与警惕性,能够从细微异常中发现潜在安全问题。
4、具备良好的沟通协调能力与团队合作精神,能够跨团队推动安全问题的解决。
5、具备较强的自主学习能力,愿意跟进大模型安全相关技术与动态
6、具备良好的保密意识,严格遵守团队数据安全管理规定、