模型部署是指将训练好的机器学习或深度学习模型应用到实际生产环境中的过程。这包括模型压缩、格式转换、服务封装、API发布等一系列工程化步骤。模型部署是AI技术落地的“最后一公里”,考验着工程师的工程化能力,需要兼顾推理速度、资源消耗、扩展性和稳定性。