ModelArts模型部署方式总结

作为实际使用ModelArts的企业用户，训练出来的模型最终应用于实际场景产生价值则需要部署，接下来总结了ModelArts的各种部署方式以及其槽点

一.训练作业或者用户用线下资源训练的模型

（1）用户自行部署：训练作业的最终模型是输出到用户的OBS目录，用户可根据需求下载下来自行部署

（2）部署在线服务：需要在模型管理模块先导入模型，导入成功后可在模型管理界面和在部署上线界面部署成在线服务。

该方式槽点在于上传模型需要满足模型包规范，作为企业开发人员有一定的学习成本，同时还有一些其他的限制，给使用带来不便：

（3）端侧部署：训练作业的模型因为是用户的算法生成的，所以用户可以根据自己的需求适配端侧设备进行部署。第二种方式是可以通过模型转换转换成支持Ascend的模型，从而可以通过HiLens部署。

二.自动学习

（1）用户自行部署：自动学习模型用户无法下载，无法自行部署。

（2）部署在线服务：自动学习原生支持在线服务部署，可在自动学习页面直接部署成在线服务或者在模型管理里找到对应模型部署成在线服务。

（3）端侧部署：自动学习暂不支持端侧部署，也不支持HiLens

        自动学习模型用户无法下载，只能使用在线部署的方式。实际的企业用户特别是小的企业用户，他们没有AI开发人员，但是华为云提供的AI相关API无法满足其需求，这种情况下他们会使用自动学习或者预置算法，但是自动学习不支持端侧部署，这导致了很大的不方便。

三.预置算法

（1）用户自行部署：预置算法模型可以输出到OBS上，用户可自行部署。

（2）部署在线服务：需要在模型管理模块先导入模型，导入成功后可在模型管理界面和在部署上线界面部署成在线务。因为预置算法模型输出的模型满足模型管理模块所需的模型包结构。所以该方式比较简便。

（3）端侧部署：预制算法虽然支持部署到第三方端侧设备，但是没有一个详细的指导文档，导致用户的不便。第二种方式是可以通过模型转换转换成支持Ascend的模型，从而可以通过HiLens部署，但是当前仅支持两种预制算法的部署。