Back to all jobs

About the role
【关于这个岗位】 作为平台 AI 基础设施与算力调度的“交通指挥官”,你将主导 AI 模型中转站及 Multi-LLM 聚合平台的整体规划与矩阵演进。该岗位直接面对多模型适配、高并发流量调度、金融级Token计费等高壁垒场景。你将拥有极高的架构设计自主权,与顶尖的算法专家、基础架构(Infra)工程师和数据科学家协同攻坚,亲手打造一个高可用、低延迟、具备强商业化变现能力的全球化 AI 路由中台。 【你会做什么】 多模型聚合与标准化(Multi-LLM Hub) :负责海量通用大模型(如 OpenAI, Anthropic, DeepSeek 等)的标准化接入、适配与封装,统一输出高兼容性的标准化 API 接口,彻底解决多模型版本兼容与调用不一致痛点。 智能流量调度(Smart Routing & High Availability) :设计并持续迭代 AI 流量路由策略,主导智能路由、动态负载均衡(Load Balancing)、并发限流(Rate Limiting)、模型降级与故障熔断机制的设计,保障平台在极端高并发下的绝对稳定性。 商业化中台与权限管控(Token Mete…
Read the full description on the original posting.
759,000+ hidden jobs like this
Gate and thousands of companies post here first — often days before LinkedIn or Indeed. Your first 5 applications are free; go Pro to apply without limits.
Everything Pro unlocks:
- Unlimited applications — free stops at 5
- Track every application in one place
- Apply straight to the source, one click
- Save & organize roles you love
- Roles pulled from company boards before the big sites