Create Alert
Email me similar jobs

优才-算子开发工程师(训推底层算子 / 高性能计算方向)

Premium Full-time PyTorch AI
优才-算子开发工程师(训推底层算子 / 高性能计算方向)
上海
校招
正式
技术族 - 算法类
职位 ID:A64974
职位描述
1. 负责Transformer/Attention/FFN、矩阵乘、融合算子、量化算子的开发与极致优化。2. 基于CUDA/CUTLASS/Triton/MLIR开发高性能算子,支撑训练与推理性能提升。3. 针对 GPU/NPU/ 昇腾 / 寒武纪等硬件做算子适配、性能调优、软硬件协同。4. 实现FlashAttention-2/3、FlashInfer、DeepGEMM、PagedAttention、FP8/FP4等核心算子。5. 负责算子性能分析、瓶颈定位、显存 / 计算 / 访存优化,达到硬件算力上限。6. 与训练/推理团队协同,将定制算子集成到PyTorch/Transformers/vllm等训练和推理框架中。7. 构建算子测试、benchmark、自动化验证体系,保证稳定性与兼容性。
职位要求
1.硕士及以上,计算机/电子 / 数学相关,2 年 + AI 算子/HPC 开发经验。2. 精通 C++/CUDA 编程,熟悉GPU/NPU体系结构、共享内存、流水线、访存优化。3. 熟悉Triton/CUTLASS/cuBLAS/cuDNN,有算子库开发经验优先。4. 理解深度学习核心算子:GEMM、Conv、LayerNorm、Softmax、Attention、Quant。5. 熟悉性能分析工具:Nsight Compute/Systems、perf、VTune。6. 有 PyTorch 算子开发、自定义算子、推理引擎算子接入经验优先。7. 具备扎实的数值计算、并行算法、汇编 / IR 阅读能力优先。
投递

More from 智元创新(上海)科技有限公司
智元创新(上海)科技有限公司 23 hours ago
智元创新(上海)科技有限公司 23 hours ago
智元创新(上海)科技有限公司 2 days ago