LLM/VLM大模型推理算子/框架优化专家 - Data AML

团队介绍：Data AML是字节跳动的机器学习中台，为抖音/今日头条/西瓜视频等业务提供推荐/广告/CV/语音/NLP的训练和推理系统。为公司内业务部门提供强大的机器学习算力，并在这些业务的问题上研究一些具有通用性和创新性的算法。同时，也通过火山引擎将一些机器学习/推荐系统的核心能力提供给外部企业客户。

1、负责Deepseek、Kimi、GLM等LLM或多模态模型在多种异构芯片上的推理优化，充分发挥出超大规模算力，支撑火山引擎方舟平台的大模型业务；
2、负责完善不同芯片的推理适配和优化技术体系，提升大模型芯片矩阵的适配与优化效率；
3、负责新型异构芯片在多种大模型上的分析评估工作，引入业界更高性价比的芯片算力；
4、负责前沿技术的调研评估和引进落地，例如前沿论文中的推理加速技术、软硬协同优化、新异构硬件特性等。

1、本科及以上学历，计算机/电子/信息/通信/自动化/软件/微电子等相关专业；
2、熟练掌握Linux环境下的C/C++、Python编程语言；
3、具备扎实的计算机体系结构技术基础和并行计算优化能力，熟悉常见算法和数据结构，具有良好的编程习惯；
4、熟悉GPU或NPU的硬件架构，熟练掌握推理优化软件栈（CUDA、CUTLASS、AscendC、BangC、HIP、FlyDSL）中的一种或多种，擅长至少一种异构芯片上的AI模型性能分析和算子优化；
5、了解主流LLM、多模态模型结构特点，了解主流推理框架如vLLM、SGLang，了解常见大模型并行策略，了解常见大模型量化算法及算子优化方案可加分；
6、有良好的编程规范和文档习惯。