岗位描述

一、岗位职责（Core Responsibilities）

1 攻击面研究

◦ 研究 LLM / 多模态模型 / Agent 在训练、微调、推理、部署全生命周期中的安全风险

◦ 覆盖：Prompt Injection、Jailbreak、数据投毒、后门攻击、对抗样本、模型窃取/反演、成员推断、上下文污染、工具调用越权、RAG 污染等

2 安全评测与红队体系

◦ 构建自动化安全评测 Benchmark、攻击语料库、红队测试框架

◦ 对接 OWASP Top 10 for LLM Applications

3 防御与对齐机制

◦ 研究并落地：输入/输出护栏、意图识别、安全对齐（SFT / RLHF / DPO / RLAIF）、拒答边界、内容安全过滤、Agent 权限隔离与调用审计

4 智能体（Agent）安全

◦ 针对 ReAct / Function Calling / MCP / 多步工作流，建模工具滥用、记忆篡改、间接注入等新型威胁

5 前沿跟踪与成果转化

◦ 跟踪 NeurIPS / ICLR / S&P / CCS / USENIX 等前沿进展

◦ 输出论文、专利、技术报告、安全基线规范，推动能力产品化

二、任职要求（Qualifications）

• 计算机 / 人工智能 / 网络空间安全 / 软件工程相关硕士及以上

技术能力

• 深入理解 Transformer / LLM 推理机制，熟悉 LoRA / QLoRA / RAG / Agent 框架（LangChain、CrewAI、LangGraph 等）

• 熟练 Python；掌握 PyTorch / TensorFlow；有 C++ / Go / Rust 加分

• 熟悉常见攻防：越狱、注入、对抗样本、后门、差分隐私、联邦学习、TEE

• 有 Benchmark 构建、自动化评测平台、红队工具开发经验

优先项（Strong Plus）

• 顶会论文（NeurIPS / ICLR / ICML / ACL / S&P / CCS / USENIX 等）一作

• CVE / 大模型漏洞挖掘 / CTF（AI 安全赛道）获奖

• 多模态（VLM）、Agent 安全、AI for SOC / 漏洞挖掘方向经验

大模型安全研究员（28届）