岗位 1:运维开发(初级/高级)
岗位职责负责 MaaS 平台生产环境的稳定性、可用性与性能优化,保障模型推理服务稳定运行。负责多云环境下 Kubernetes 与 GPU 算力集群的运维体系建设,包括自动化部署、弹性伸缩、容量规划、故障恢复与容灾。建设可观测性与自动化运维平台,通过工具开发、平台化和自动化手段,提升故障发现、定位与处理效率。主导重大生产故障的应急处理、根因分析与改进落地,持续优化架构和发布流程。建立资源利用率与成本分析体系,优化 GPU 、计算、存储及网络资源效率,推动降本增效。任职要求熟悉推理业务: 有模型部署、推理服务发布、GPU 资源管理及线上故障处理经验,理解推理网关、模型服务与底层算力之间的依赖关系。具备开发经验或突出成绩,至少满足其一: 熟练使用 Go 、Python 、Rust 中至少一门语言,有实际工程开发经验,能够独立交付运维平台或基础设施工具;或曾在稳定性、性能优化、资源效率、基础设施建设等方面取得可验证、可量化的突出成果。技术基础扎实: 深入理解 Linux 、网络、容器及 Kubernetes 核心机制,具备跨应用、集群和基础设施的复杂故障排查能力;有监控告警、日志、链路追踪等可观测性体系建设经验。能够独当一面: 具备较强的技术判断力、责任心和跨团队推动能力,能够从问题识别、方案设计到实施验证,独立主导项目并完成闭环。
岗位 2:大模型网关后端开发(初级/高级)岗位职责负责 MaaS 平台核心后端系统的设计与开发,重点包括 推理网关和运营平台。负责模型接入、流量路由、负载均衡、限流熔断、鉴权、计量计费等推理网关能力建设。参与 GPU 算力资源管理、任务调度、弹性扩缩容、多集群 / 多云资源管理等平台建设。建设面向客户和内部运营的账户、配额、账单、模型管理、监控等平台能力。独立负责核心模块的架构设计、开发上线、性能优化及线上问题处理。
任职要求熟练掌握 Golang / Rust 中至少一门。熟悉高并发、分布式系统、微服务、网络编程及常见服务治理机制。熟悉大模型推理技术栈,了解 vLLM 、SGLang 、TensorRT-LLM 等推理框架及模型 Serving 基本原理。熟悉 Kubernetes 、Docker ,了解 GPU 资源管理、调度及云原生基础设施。具备较强的工程能力,能够独当一面,从需求和架构设计到生产上线完整负责一个核心系统或模块。
加分项有 MaaS 、AI Infra 、推理网关、API Gateway 、GPU 算力平台相关经验。有大规模高并发在线系统或多云 / 多集群平台建设经验。熟悉计量计费、账户体系、配额管理、运营后台等 SaaS / 云平台系统。熟悉 CUDA 、NCCL 、RDMA 、GPU 性能及大模型推理优化。
内推邮箱:MzI4OTQ3MzI3QHFxLmNvbQ==
⚠️内容来自互联网,如有侵权请点击反馈!侵权投诉