岗位职责:
1、负责AI推理框架开发,充分挖掘后端硬件的算力,构建AI框架
2、适配各业务算法模型,落地到服务器及端侧设备上
3、将AI技术有效结合并应用到业务场景,实现低成本、高效率,提高核心竞争力
岗位要求:
1、具备扎实的Python编程基础,熟悉Pandas、NumPy、pytorch、Matplotlib、TensorFlow等科学计算库和python常见模块,能够独立部署端到端的python项目,熟悉缓存中间件(Redis等) ,了解AI生态的RAG框架
2、熟悉业界开源框架设计实现,包含TFLite、MNN、MindSpore Lite、TVM等,具有框架开发经验更佳
3、熟悉自然语言模型结构,具备模型部署的调试调优能力,了解各种量化、剪枝、稀疏压缩等模型小型化技术,以及算子融合、图优化、访存优化等优化技术
4、熟悉CPU、GPU等通用硬件架构,以及相应指令集和算子库,了解一款主流NPU硬件架构和工具链,比如HTP、APU等
5、熟悉微服务及运维相关技术,如aws、sagemaker或其他CI/CD工具、Docker、K8s生态,对网络架构有一定了解
6、具有较强的学习和解决问题的能力,拥有良好的团队合作和沟通能力