大模型平台开发工程师

工作职责

1. 负责大模型服务平台核心功能的开发与建设，包括模型推理部署、模型微调训练、模型蒸馏压缩等关键模块的设计与实现；

2. 持续优化大模型训练推理能力，确保平台在高负载、多机多卡场景下的稳定性和可用性；

3. 集成和维护大模型开发常用工具链，并根据业务需求进行二次开发和功能扩展；

4. 参与平台技术架构的演进规划，推动云原生技术在大模型平台中的应用，提升系统可扩展性和运维效率。

岗位要求

1. 本科及以上学历，计算机、人工智能相关专业，具备2年以上AI基础平台或大模型开发经验；

2. 熟练大模型相关技术栈，包括但不限于vLLM、LLaMA-Factory、Ray等主流工具，具备Python编程能力和系统设计能力；

3. 有大模型微调和模型轻量化经验，熟悉SFT、DPO等微调算法，了解主流评测数据集及评测方法；

4. 了解Kubernetes、Docker等云原生技术，有GPU资源管理经验者优先。

5. 有较强的沟通和解决问题能力，主动意识强。