Create Alert
Email me similar jobs

顶尖应届-大模型高性能算子研发工程师-基础技术平台

Premium Full-time
顶尖应届-大模型高性能算子研发工程师--基础技术平台
北京
校招
正式
软件研发类
27届未来星
职位描述
1、通过编译优化、模型并行优化、图融合、高性能算子开发、低精度计算、Memory复用、Cache优化、高并发服务请求优化等技术,打造业界领先的高性能训推引擎;2、设计和开发高性能算子库,研究最新的GPU计算技术和优化方法,以充分利用GPU的并行计算能力,支持大模型推理优化和部署。
职位要求
1、硕士及以上学历,计算机、软件工程、数学等相关专业,具备扎实计算机理论基础和丰富编程经验,在深度学习领域有深入研究与实践;2、精通 Python,熟练掌握至少一种深度学习框架(如 PyTorch),理解深度学习和transformer系列算法,有丰富模型开发与调优经验,能独立搭建复杂模型并优化性能;3、熟悉主流的并行编程以及性能优化技术,熟悉CUDA和TensorCore编程,有相关高性能优化经验(nsys/ncu)优先;熟悉flashattention,TransformerEngine, flashinfer等算子库, 有使用triton/tilelang等做高性能算子开发经验优先
投递
Similar jobs