锦鲤求职岗位描述
工作内容
1. 负责token服务平台推理引擎核心产品战略规划与设计，聚焦LLM推理、加速优化、算力调度核心链路，定义产品定位、目标客户、商业模式、产品架构和演进路线，打造业界领先的大模型推理服务产品体系。
2. 负责推理服务核心能力建设，负责批量推理、KV Cache缓存优化、动态批处理、推理限流熔断、多模型智能路由等功能的规划与落地。
3. 深度梳理推理链路核心痛点，制定推理时延、接口吞吐量、算力利用率的优化目标与策略，主导异构算力适配、推理资源弹性扩缩容、算力分级分级等解决方案的设计与落地，推动成本与效能的持续改进。
4. 负责token服务产品商业化体系的全盘规划与持续迭代，制定具有行业竞争力的百万Token定价策略、TPM预留/独占资源定价体系、按量/包月/竞价等多维度计费模型，持续提升推理服务收入规模与市场渗透率。
5. 建设 Token 经营指标体系，持续分析 token 产量、调用量、收入、成本、毛利、客户留存和模型使用效率。
6. 搭建完善的推理运维体系，包含全链路监控告警、性能评测、故障排查能力，沉淀标准化产品能力，持续推进推理引擎降本增效与稳定性迭代升级。
任职条件
1. 本科及以上学历，并取得相应学位，计算机及相关专业优先。
2. 8年及以上工作经验，其中至少3年及以上AI平台、云服务、MaaS平台产品经验，深耕大模型推理引擎方向，有相关核心模块产品设计实战经验。
3. 精通LLM基础推理原理、Token机制、流式交互逻辑，熟练掌握推理加速、缓存优化、算力调度等核心技术逻辑。
4. 熟悉分布式架构与高并发推理场景，可独立完成产品方案、PRD、架构文档输出，具备复杂场景需求拆解与落地能力。
5. 具备优秀的跨团队协同推进能力，可联动研发、算法团队解决推理性能、资源瓶颈等核心问题。
6. 加分项：拥有多技术团队协同，推理引擎平台从0到1搭建经验。
7.具备卓越的战略思维与执行能力，有较强的组织领导、沟通和协调能力；具有良好的敬业精神和职业道德操守，企业忠诚度高，并有丰富的团队建设与管理经验。