岗位描述
(岗位可base北京、长沙、无锡)
岗位职责:
1. 模型适配与工程化落地
负责主流开源大模型 / 通用模型(LLaMA、Qwen、Llama 3、Stable Diffusion、CV 检测 / 分割模型等)在硬件、框架上的适配、编译、部署。
完成模型推理、微调、蒸馏、量化、剪枝等工程优化,保证功能可用、性能达标、稳定性可控。
对接 PyTorch、TensorFlow等框架,解决模型转换、算子兼容、版本兼容问题。
2. 模型性能调优与技术攻坚
针对推理 / 训练场景做端到端优化:算子优化、显存优化、推理调度、KV Cache 优化、并行策略。
使用推理引擎(TensorRT、vLLM等)做部署加速,输出压测数据、性能基线与调优方案。
排查模型运行异常、精度损失、内存泄漏、推理卡顿等问题。
3. 开发者生态建设与赋能
收集开发者使用反馈、痛点需求,同步给算法、框架、硬件团队推动产品迭代。
4. ISV / 行业客户对接与方案输出
对接企业客户、独立软件厂商,提供部署方案、迁移方案。
5. 开源社区与技术前瞻
跟进全球开源模型动态、新算法、新范式,参与开源社区协作。
任职要求:
1. 基础背景
本科及以上学历,计算机、人工智能、软件工程、自动化等相关专业。
熟悉 AI 行业生态,了解主流开源模型、框架与部署链路。
2. 核心技术能力
模型基础:理解深度学习、大语言模型、多模态模型基本原理,熟悉训练、微调、推理全流程。
框架与工具:熟练使用 PyTorch/TensorFlow,掌握模型转换(ONNX)、推理部署常用工具。
工程能力:精通 Python,了解 C/C++ 加分;熟悉 Linux 环境、Shell、Docker、容器化部署。
优化能力:了解量化、KV Cache、模型并行、推理加速等常用优化手段,会性能压测与问题定位。
生态认知:熟悉 Hugging Face、ModelScope 等开源模型社区优先。
3. 软技能与综合能力
善于沟通对接内外团队,有客户对接、技术支持、生态运营经验优先。
有大模型落地、模型迁移、AI 生态运营、ISV 技术对接经验者优先。