AI网关工程师

岗位职责

1. 负责公司统一AI网关的架构设计、开发与持续运营，作为全公司大模型调用的统一入口与治理中枢；

2. 对接华为云、阿里云、百度智能云、DeepSeek等主流MaaS厂商API，建立统一模型接入层与适配层；

3. 设计并实现智能路由策略，基于成本、延迟、质量、合规要求进行模型动态路由与流量调度；

4. 建立Token成本治理体系，包括预算管理、限流控制、成本分摊、多维度（部门/项目/用户）报表与分析；

5. 保障AI网关高可用性，实现多MaaS厂商容灾切换、降级策略与全链路SLA监控告警；

6. 为内部业务团队提供统一SDK、API文档与技术支持，推动AI能力在业务侧高效落地。

任职要求

1. 本科及以上学历，计算机、软件工程等相关专业；

2. 3-5年后端开发或API网关相关经验，有AI网关/LLM API网关项目经验者优先；

3. 熟悉主流MaaS厂商API（阿里云、Azure OpenAI等），了解大模型调用机制与Token计费逻辑；

4. 熟悉API网关技术（如Kong、APISIX等），有高并发、低延迟系统设计与调优经验；

5. 熟练掌握至少一门主流编程语言（Go/Java/Python），有良好的编码习惯与工程素养；

6. 有大模型应用开发或LangChain/LlamaIndex等框架使用经验者优先。