阿里云智能-服务器研发AI系统高级架构师-深圳/杭州
Alibaba Group · Shenzhen; Hangzhou ·
- Experience
- 8+ years
- 负责面向AI大模型训练和推理场景的超节点及超节点集群架构规划与设计，包括计算和互连拓扑定义、Scale-Up/Scale-Out互连方案设计、内存与存储层次设计，输出系统级架构方案并推动落地验证。
- 负责超节点内部GPU/NPU互连架构设计，涵盖Scale-Up域内高速互连拓扑（全互联、Ring、Torus等）、带宽分配策略、通信路径优化、故障域隔离与降级机制，保障大规模并行训练与推理的通信效率。
- 负责超节点集群的计算超节点、加速器超节点、内存超节点、IO超节点、存储超节点等方向的规划和预研，定义下一代面向大模型的超节点集群架构 及 关键芯片规划。
- 参与AI加速器（GPU/LPU/NPU）规划和POC评估，分析不同加速器的计算特征、互连能力和内存层次，结合大模型训练与推理workload特征，输出面向不同AI大模型负载的最优超节点集群配置策略。
- 负责超节点集群架构的性能建模与Benchmark体系建设，建立算力利用率、通信带宽、内存带宽、内存容量、互连时延、扩展效率等核心指标的量化评估方法，驱动集群架构迭代优化。
- 跟踪业界超节点架构演进趋势（如NVL72、UALink等），结合阿里云业务场景需求，参与下一代AI超节点架构定义与原型验证。
- 计算机、电子科学与技术、通信工程、人工智能等相关专业，10年以上工作经验，5年以上服务器系统架构、高性能计算或AI基础设施相关工作经验，主导多个中型项目并取得成功的经验。
- 能够负责重要技术的研发实践落地工作，负责架构定义，系统设计，开发执行和落地交付等全面性工作
- 深入理解GPU服务器硬件架构，熟悉产业界竞品设计架构，熟悉多GPU互连拓扑（NVLink、NVSwitch、PCIe Switch）、Scale-Up与Scale-Out组网方案及其性能特征。
- 熟悉AI大模型训练与推理的典型workload特征，包括Transformer架构、MoE模型、KV Cache管理、Prefill/Decode分离等，能够从业务负载出发反推系统架构需求。
- 了解大模型训练与推理的软硬件协同优化策略，如混合精度训练、通信计算重叠、算子调度、内存复用等，能够在架构设计中融入优化考量。
- 具备系统性思维和架构设计能力，熟悉服务器、网络、IDC相关技术基础知识，熟练掌握跨领域设计方法，能够独立完成复杂系统的方案论证、性能建模、技术选型和跨团队协同推进。
- 熟练掌握DFx设计方法，保障相关产品/技术/系统的可容灾、可观测、可处置、可运维、可快恢，提升产品/技术/系统的安全和稳定性。
- 有强烈的技术热情和好奇心、自驱力和学习力；具备良好的分析与解决问题能力、沟通及团队合作能力；有创新热情，积极乐观，能够持续推动问题解决和技术突破。
- 掌握AI基础知识，熟练使用主流AI Coding工具，熟悉AI驱动的研发流程并能融入个人工作流；有AI基础设施或开发工具研发经验者优先，持有阿里云ACA/ACP/ACE认证证书者优先。