检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
父主题： 云上迁移适配故障
配置本地IDE（Pycharm或者VSCode）联接云上环境调试请参考使用本地IDE开发模型。 父主题： 云上迁移适配故障
在CCE上创建服务。 父主题： 文生图模型训练推理
操作步骤 使用主用户账号登录管理控制台，鼠标放在右上角用户名，在下拉框中选择“统一身份认证”，进入统一身份认证（IAM）服务。 在统一身份认证服务页面的左侧导航选择“权限管理 > 权限”，单击右上角的“创建自定义策略”，设置策略。
处理方法 需要您给ModelArts配置SFS Turbo委托权限，配置步骤请参考最佳实践的“委托授权ModelArts云服务使用SFS Turbo”章节。 父主题： 资源池
Step3 启动AWQ量化服务 参考Step6 启动推理服务，在启动服务时添加如下命令。 -q awq 或者--quantization awq 父主题： 推理模型量化
Step3 启动AWQ量化服务 参考Step6 启动推理服务，在启动服务时添加如下命令。 -q awq 或者--quantization awq 父主题： 推理模型量化
配置本地IDE（Pycharm或者VSCode）联接云上环境调试请参考使用本地IDE开发模型。 父主题： 云上迁移适配故障
父主题： 云上迁移适配故障
枚举值如下： SFS：弹性文件服务 EVS：云硬盘 mount_path String 存储挂载至Notebook实例的目录，当前固定在/home/ma-user/work/下。 ownership String 资源所属，枚举值如下： MANAGED：托管，即资源在服务上。
具体参考启动推理服务。 父主题： 推理关键特性使用
Step3 启动AWQ量化服务 参考Step3 启动推理服务，在启动服务时添加如下命令。 --q awq 或者--quantization awq 父主题： 推理模型量化
Step3 启动AWQ量化服务 参考Step6 启动推理服务，在启动服务时添加如下命令。 -q awq 或者--quantization awq 父主题： 推理模型量化
Step3 启动AWQ量化服务 参考Step6 启动推理服务，在启动服务时添加如下命令。 -q awq 或者--quantization awq 父主题： 推理模型量化
host：与起服务的host保持一致，比如起服务为0.0.0.0,host设置也为0.0.0.0。 service_port：服务端口，与启动服务时的端口保持，比如8080。
host：与起服务的host保持一致，比如起服务为0.0.0.0,host设置也为0.0.0.0。 service_port：服务端口，与启动服务时的端口保持，比如8080。
argparse.ArgumentParser() parser.add_argument('--data_url', type=str, default=None, help='obs path of dataset') args, unparsed = parser.parse_known_args() 父主题： 云上迁移适配故障
父主题： 云上迁移适配故障
步骤三：启动量化服务 参考启动在线推理服务，在启动服务时添加如下命令。 -q awq 或者--quantization awq 父主题： 量化
service_type 否 String 镜像支持服务类型。枚举值如下： COMMON：通用镜像。 INFERENCE: 建议仅在推理部署场景使用。 TRAIN: 建议仅在训练任务场景使用。 DEV: 建议仅在开发调测场景使用。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
