岗位描述
岗位职责
1. AI核心链路构建与优化:
负责语音翻译、文本翻译以及基于大模型(LLM)的各类应用场景(如智能摘要、内容理解、复杂指令执行等)的后端架构设计与工程落地。构建高性能的多模态处理链路(ASR->LLM/MT->TTS),重点解决流式数据处理、全链路延迟控制、长连接保活等工程难题。
2. 系统工程化与稳定性建设:设计并实现高并发、高可用的AI服务网关,处理模型调用的熔断、降级、重试及负载均衡。建设系统的可观测性体系,监控模型耗时、Token消耗及系统SLA,确保服务在大规模流量下的稳定性。AI工程效能与成本控制:
3. 负责模型服务的工程化封装与编排,侧重于应用层架构设计。
通过实现请求聚合、业务层缓存、并发控制等策略,降低推理成本,提升系统整体吞吐量。解决LLM在实际业务场景中的工程挑战(如长文本处理、超时重试、上下文窗口管理)
岗位要求
1.基础素质:
- 本科及以上学历,计算机相关专业,3年以上后台研发经验。
- 精通Go/Python/C++至少一门服务端语言,具备扎实的编码能力和数据结构/算法基础。
- 深入理解分布式系统原理,熟悉微服务架构、RPC框架、消息队列、缓存及数据一致性方案。
2.工程能力:
- 具备高并发、高吞吐系统的设计与调优经验,熟悉延迟优化、性能剖析方法论。
- 具备优秀的工程素养,有强烈的系统思维,能够推动复杂系统从0到1的建设及落地。
3.加分项:
- 熟悉多模态链路(ASR/TTS/机器翻译/音视频流处理)或有实时系统开发经验者优先。0对AI前沿技术有技术洞察力,并能判断其在工程生产环境中的适用边界。