職位描述：
1、設計和實現(xiàn)推理引擎SDK，提升推理性能、易用性和產(chǎn)品穩(wěn)定性。
2、開發(fā)推理引擎的AI編譯。包括圖融合、各類圖優(yōu)化、算子優(yōu)化以及自動化調優(yōu)等；
3、開發(fā)推理引擎的運行時系統(tǒng)。包括內存管理以及資源管理等等；
4、熟悉類CUDA/ROCm Runtime和Driver API及其底層實現(xiàn)，理解常用機制如異步launch，事件event，進程隔離/調度；
5、參與大模型的推理優(yōu)化?；谕评硪妫邪l(fā)和應用大模型推理優(yōu)化的技術。
職位要求
1、計算機相關學科碩士及以上學歷；
2、熟悉 C++、Python 等編程語言，3年以上C++的開發(fā)經(jīng)驗；//有開發(fā)經(jīng)驗即可，組內已經(jīng)有兩個資深工程師；
3、熟悉深度學習框架，如Tensorflow，Pytorch，至少熟悉一種推理引擎；
4、具有使用TVM / MLIR / IREE 進行AI模型編譯和優(yōu)化的經(jīng)驗 加分項；
5、有很好的團隊協(xié)作能力與溝通能力，對技術和代碼品質有追求。
