阿里控股-系统软件研发工程师-AI加速芯片方向

团队/方向简介
负责 AI 加速器（GPU/PPU等）系统软件技术栈与生态建设，覆盖驱动、CUDA 兼容运行时、编译工具链、框架接入的全链路组件；结合 AI 业务场景与推理引擎（vLLM 等）、训练框架（PyTorch/Megatron 等）软硬协同优化；参与超节点架构、拓扑管理与调优，支撑大规模训练/推理集群的高效稳定运行。

岗位职责
1.负责 AI 加速器（GPU/PPU等）系统软件栈的设计与研发，覆盖内核/用户态驱动、CUDA 兼容层（Driver API/Runtime API）、Pytorch、编译工具链等核心组件。
2.建设 AI 系统运行时能力：设备管理与虚拟化、多卡多机通信与拓扑管理，打造与 CUDA 生态兼容的高性能运行时。
3.超节点架构设计与优化：拓扑发现与建模、亲和性、跨机互联通信优化、软硬协同分析优化。
4.建设性能分析与调优体系，定位并解决驱动/运行时/框架层的复杂系统问题，持续提升集群性能与稳定性。

任职要求（基本要求）：
1.计算机、电子、自动化等相关专业本科及以上学历，5 年以上系统软件开发经验（职级可上浮）。
2.精通 C/C++（掌握 Rust/Python 者加分），熟悉 Linux 操作系统原理，具备扎实的系统编程与问题定位能力。
3.深入理解 GPU 计算栈分层架构（硬件 → 驱动 → Driver API/Runtime → 编译器 → 框架），具备跨层问题的独立分析与闭环能力。
4.熟悉 GPU 编程模型，有大模型训练或推理系统的实战优化经验，了解至少一种主流推理引擎或训练框架的内部机制。
5.良好的跨团队沟通与推动能力，能与硬件、驱动、编译器、框架团队协同交付。

加分项:
一、底层驱动
有 AI 加速器内核驱动开发经验（比如 NV open-gpu-kernel-modules 源码级二次开发经验）、GPU 子系统开发经验（MMU/IOMMU 与页表管理、SVM 共享虚拟内存、DMA/BCE、BAR 空间映射与访问）
有 GPU 虚拟化与隔离技术经验（vGPU、MIG、SR-IOV、VFIO），或机密计算（CC/TDX/SEV）场景的系统适配经验
有国产加速卡（NPU/PPU/TPU）BSP 适配或用户态驱动（UMD）从 0 到 1 的建设经验
二、运行时
1.有 CUDA Driver API / Runtime API 的深度开发经验，或 hook/劫持层（API shim、LD_PRELOAD 拦截等）开发经验
2.有 CUDA Stream/Graph、MPS、Green Context、MIG 等任务调度与资源隔离机制的优化经验
3.有 CUDA IPC、GPUDirect RDMA、NVLink P2P 等跨卡/跨机通信链路的开发或调优经验，熟悉 NCCL 等集合通信库的实现与扩展
4.有 CUDA 工具链与二进制生态经验（NVCC、PTX/SASS、cuobjdump/nvdisasm、Nsight/CUPTI），或对标运行时（HIP、oneAPI Level Zero、CANN ACL 等）开发与 CUDA 生态兼容层移植经验
5,有超节点/大规模集群拓扑管理经验（拓扑发现与建模、亲和性并行映射、跨机互联带宽优化）
三、框架层
1.有 PyTorch 底层开发经验（dispatcher 注册机制、自定义算子、CUDACachingAllocator 定制、PrivateUse1 自定义后端接入、c10d 通信层扩展）
2.有 torch.compile / Triton / 图编译器的开发经验，熟悉 TorchDynamo、AOTAutograd、dynamic shape 等编译链路
3.有大规模集群性能调优与稳定性建设经验（MFU/HFU 提升、慢节点与故障自动定位、通信带宽瓶颈分析）
4.有大模型并行策略（TP/PP/DP/EP/SP）与 PD 分离部署、KV Cache 分层存储/跨节点迁移等推理架构优化的落地经验
5.有训练框架（Megatron-LM/DeepSpeed/FSDP）与底层系统协同优化经验（通信计算 overlap、显存 offload/重计算、容错与弹性训练）
6.有主流推理引擎（vLLM/SGLang/TensorRT-LLM 等）核心模块开发或深度优化经验（PagedAttention、Continuous Batching、投机解码、量化推理）