AI基础设施工程师

岗位职责
岗位职责：
1、负责公司AI平台底座与基础设施的建设、运维与技术体系建设。
具体：在华为算力集群（昇腾/GPU）上完成主流大模型的部署、量化（GPTQ/AWQ）、加速（vLLM/TensorRT-LLM/MindIE）与服务化（OpenAI兼容接口），优化吞吐、首token时延、显存占用与并发批处理；
2、搭建并维护智能路由/多模型网关，按场景成本与质量动态分发；
3、基于Kubernetes+Volcano/Kubeflow建设GPU算力调度（任务编排、配额、利用率优化），搭建CI/CD、Prometheus/Grafana监控告警与日志可观测性，保障高可用与弹性伸缩；
4、落实权限管控、数据脱敏、内容与访问审计等安全合规及网络、存储等基础设施；
5、负责推理与平台标准工作流程梳理（SOP）、技术规范编写、技术培训与新人培养。

岗位要求
岗位要求：
1.熟悉常见推理框架，掌握量化、KVCache、张量/流水并行；熟练Python/C++；
2.LLMOps/基础熟练Kubernetes、Docker、CI/CD与IaC，熟悉GPU调度与监控；
3.熟悉GPU集群环境，具备安全合规与审计意识。
4.加分项：有国产算力平台（MindIE/CANN）部署或运维经验；有千亿参数模型分布式推理、或大模型MLOps平台落地经验；有等保合规或企业数据安全治理经验。"