• IceCube

    岗位 1:运维开发(初级/高级)

    岗位职责
    负责 MaaS 平台生产环境的稳定性、可用性与性能优化,保障模型推理服务稳定运行。
    负责多云环境下 Kubernetes 与 GPU 算力集群的运维体系建设,包括自动化部署、弹性伸缩、容量规划、故障恢复与容灾。
    建设可观测性与自动化运维平台,通过工具开发、平台化和自动化手段,提升故障发现、定位与处理效率。
    主导重大生产故障的应急处理、根因分析与改进落地,持续优化架构和发布流程。
    建立资源利用率与成本分析体系,优化 GPU 、计算、存储及网络资源效率,推动降本增效。
    任职要求
    熟悉推理业务: 有模型部署、推理服务发布、GPU 资源管理及线上故障处理经验,理解推理网关、模型服务与底层算力之间的依赖关系。
    具备开发经验或突出成绩,至少满足其一: 熟练使用 Go 、Python 、Rust 中至少一门语言,有实际工程开发经验,能够独立交付运维平台或基础设施工具;或曾在稳定性、性能优化、资源效率、基础设施建设等方面取得可验证、可量化的突出成果。
    技术基础扎实: 深入理解 Linux 、网络、容器及 Kubernetes 核心机制,具备跨应用、集群和基础设施的复杂故障排查能力;有监控告警、日志、链路追踪等可观测性体系建设经验。
    能够独当一面: 具备较强的技术判断力、责任心和跨团队推动能力,能够从问题识别、方案设计到实施验证,独立主导项目并完成闭环。

    岗位 2:大模型网关后端开发(初级/高级)
    岗位职责
    负责 MaaS 平台核心后端系统的设计与开发,重点包括 推理网关和运营平台。
    负责模型接入、流量路由、负载均衡、限流熔断、鉴权、计量计费等推理网关能力建设。
    参与 GPU 算力资源管理、任务调度、弹性扩缩容、多集群 / 多云资源管理等平台建设。
    建设面向客户和内部运营的账户、配额、账单、模型管理、监控等平台能力。
    独立负责核心模块的架构设计、开发上线、性能优化及线上问题处理。

    任职要求
    熟练掌握 Golang / Rust 中至少一门。
    熟悉高并发、分布式系统、微服务、网络编程及常见服务治理机制。
    熟悉大模型推理技术栈,了解 vLLM 、SGLang 、TensorRT-LLM 等推理框架及模型 Serving 基本原理。
    熟悉 Kubernetes 、Docker ,了解 GPU 资源管理、调度及云原生基础设施。
    具备较强的工程能力,能够独当一面,从需求和架构设计到生产上线完整负责一个核心系统或模块。

    加分项
    有 MaaS 、AI Infra 、推理网关、API Gateway 、GPU 算力平台相关经验。
    有大规模高并发在线系统或多云 / 多集群平台建设经验。
    熟悉计量计费、账户体系、配额管理、运营后台等 SaaS / 云平台系统。
    熟悉 CUDA 、NCCL 、RDMA 、GPU 性能及大模型推理优化。

    内推邮箱:MzI4OTQ3MzI3。

    主楼
  • 网络安全专家

    MaaS 平台那块 GPU 资源管理具体用的什么方案,还是自己做的调度系统?

    #1
  • 何阳

    建议可以把招聘要求中的至少一门编程语言扩展为多种,这样能吸引更多不同技术栈的候选人。

    #2
  • 漫步Music

    GPU资源调度和弹性伸缩在大规模并发场景下很容易成为瓶颈,这块坑多得很。

    #3

发表回复

登录后回复