算子开发工程师
急招
上海、武汉全职芯片板块
职位描述
岗位职责：1，基于我们芯片的架构用CUDA编程模型构建专家算子库；2，为专家算子库进行性能分析、验证、优化等工作。
职位要求
1，有完整的独立部署 30B 以上模型的经验, 完整部署指的是从模型量化->推理算子优化->推理框架适配->业务逻辑优化->线上端到端性能评估, 每个环节候选人均有独立的工作经验, 并且整个部署链路能够独立完成闭环；2，有完整的算子库架构经验, 例如在自研GPU上带队适配 deepgemm / MLA 等优秀开源工作, 能够深度结合架构特性与算法特性, 并将架构优化与算法优化统一体现在同一个算子开发框架里；3，能够独立构建开发框架(算子库框架, 推理框架, 终端业务部署框架均可), 讲清楚整套设计范式；4，能独立把 hooper/blackwell 上的高性能算法模版迁移到其他自研架构上；5，能够独立完成混合低精度量化模型的部署与算子开发, 并独立对其进行精度评估。
投递
Sign in
To continue your applicationor continue with email
By continuing you agree to our Terms & Privacy Policy.
Similar jobs
