岗位描述
岗位职责
1.模型训练与研发。负责大语言模型的预训练(Pre-training)、有监督微调(SFT)及RL(RLHF / DPO / GRPO/OPD)全流程研发,持续提升模型在特定领域的能力;参与多模态大模型(Multimodal LLM)的架构设计与训练,实现文本、图像、视频等多模态信息的有效融合与理解;研发图像与视频生成模型,基于Diffusion Transformer(DiT)、Latent Diffusion Model(LDM)、Flow Matching等前沿架构,推进生成质量与效率的优化;探索并落地LoRA / QLoRA / DoRA等参数高效微调(PEFT)方法,降低模型适配成本;跟踪大模型领域的最新研究进展(如MM-DiT、Rectified Flow、Spatiotemporal Attention等),评估并将其应用于实际业务场景。
2.推理服务部署与优化。负责大模型推理服务的架构设计与线上部署,确保高吞吐、低延迟、高可用的服务能力;基于vLLM、TensorRT-LLM、LMDeploy等主流推理框架进行性能调优,包括但不限于KV Cache优化(PagedAttention)、模型量化(AWQ / GPTQ / INT8 / INT4)、Speculative Decoding、Continuous Batching等技术;设计并实施分布式推理方案,涵盖Tensor Parallelism、Pipeline Parallelism等并行策略。
3.模型评测与质量保障。建立系统化的模型评测体系,覆盖通用基准(MMLU、C-Eval、GSM8K、HumanEval等)与业务自定义评测集;针对多模态模型,构建图像理解、视频理解、图文匹配等维度的专项评测方案(如MMMU、MME、MMBench等);基于评测结果驱动模型迭代优化,形成“训练 → 评测 → 优化”的闭环。
4.工程协作与项目交付。支撑产品、工程团队,将模型能力封装为可复用的API或SDK,支持业务场景落地;撰写技术文档与方案报告,参与技术评审与知识沉淀。
任职要求
1.本科及以上学历,计算机科学、人工智能、数学或相关专业;3 年以上深度学习算法研发经验,其中至少1年大模型相关研发经验。
2.扎实的 Python 编程功底,熟练使用 PyTorch 框架;深入理解 Transformer 架构及其变体(GPT、LLaMA、Qwen、ViT 等),具备从零训练或继续预训练大语言模型的完整经验优先;熟悉DeepSpeed、Megatro 等主流训练框架与分布式训练工具。
3.掌握大模型微调与强化学习技术(SFT、RLHF、GRPO、DPO、OPD),了解数据质量对模型效果的影响;具备推理服务部署经验,熟悉 vLLM、TensorRT-LLM 或同等推理框架的生产级应用。
4.良好的团队协作与沟通能力,能够在跨职能团队中高效推进项目。
5.具有以下工作经验者优先考虑:具有图像或视频生成模型的实操经验,熟悉 Diffusion Transformer(DiT)、Latent Diffusion、Flow Matching、DDPM/DDIM 等生成模型架构与训练方法;有完整的大模型项目交付经验(从需求分析、数据准备、模型训练到推理部署的全链路经验);在 ACL、EMNLP、NeurIPS、ICML、CVPR、ICCV 等顶级会议发表过相关论文;有 Agent / RAG / Tool-use 等 LLM 应用范式的开发经验;在 ACM/ICPC、Kaggle 等竞赛中取得优异成绩。