锦鲤求职岗位描述
工作内容
1.负责token服务平台推理引擎核心产品规划与设计，聚焦LLM推理、加速优化、算力调度等核心链路，定义产品定位、目标客户、商业模式、产品架构和演进路线的落地执行。
2.负责推理服务核心能力建设，包括批量推理、KV Cache缓存优化、动态批处理、推理限流熔断、多模型智能路由等功能调研、需求分析、PRD设计。
3.深度梳理推理链路核心痛点，针对性优化推理时延、接口吞吐量、算力利用率，设计异构算力适配、推理资源弹性扩缩容解决方案。
4.负责token推理服务商业化模式的探索与落地，主导百万token定价策略、TPM预留/独占资源定价体系、按量/包月/竞价等多维度计费模型的设计，支持推理服务收入规模与市场渗透率的提升。
5. 建设 Token 经营指标体系，持续分析 token 产量、调用量、收入、成本、毛利、客户留存和模型使用效率。
5.负责推理全链路监控告警、性能评测、故障排查等运维产品工具的需求梳理与落地推进，确保运维能力可感知、可操作；基于线上反馈持续迭代工具功能，提升运维效率与问题定位准确性。
任职条件
1.本科及以上学历，计算机及相关专业优先。
2. 8年以上产品管理或产品设计经验，其中至少2年及以上AI平台、云服务或MaaS平台产品经验，有推理引擎或AI基础设施相关模块的产品设计落地经历。
3. 熟悉LLM基础推理原理、Token机制与流式交互逻辑，对推理加速、缓存优化、算力调度等核心技术有一定理解，能与技术团队高效沟通。
4. 熟悉分布式架构与高并发推理场景，具备独立完成产品方案、PRD、架构文档输出的能力，能对复杂业务需求进行拆解并推动落地。
5. 具备较强的跨团队协同能力，能有效联动研发、算法、运维等团队，共同解决推理性能与资源瓶颈问题。
6. 加分项：有推理引擎平台从0到1搭建经验，或多技术团队协同推动产品落地的成功案例。
7.诚实守信、作风踏实严谨、责任心强；具备良好团队协作能力精神；学习能力强，善于解决复杂问题。