岗位描述
岗位职责
1、负责 MaaS 控制面和业务后端服务。
2、实现租户、用户、项目、API Key、模型目录、部署单元和配方管理。
3、实现高性能网关、协议转换、认证、限流、流式响应和请求生命周期管理。
4、实现会话亲和、KV 感知路由、优先级队列、准入控制和 fallback。
5、实现计费、用量事件、账本、预付余额、Plan 和 Provider 分账。
6、实现排队、容量管理、部署编排、发布和配置变更。
7、维护 PostgreSQL、Kafka、Redis、ClickHouse 等基础组件。
8、 保证关键业务具备幂等、审计、重试、补偿和数据重放能力。
9、完成领导交办的相关工作。
岗位要求
1、3 年以上 Go、Java、Rust 或 Python 后端开发经验,优先 Go。
2、熟悉高并发服务、微服务、事件驱动架构和分布式系统。
3、熟悉 PostgreSQL、Kafka、Redis、ClickHouse 至少两项。
4、熟悉 HTTP、SSE、WebSocket、限流、熔断、重试和负载均衡。
5、理解推理服务中的 TTFT、TPOT、KV Cache、并发和容量约束。
6、有较强的系统设计、故障处理和性能优化能力。
7、优先条件
有 API 网关、云平台控制面、MaaS 或 AI 平台经验。
有计费、账本、配额、预付费或 SaaS 结算系统经验。
有 Kubernetes Controller、Operator 或资源调度系统经验。
有 SGLang Router、Dynamo 或类似推理路由经验。