检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
说明 GET 请求服务器返回指定资源。 PUT 请求服务器更新指定资源。 POST 请求服务器新增资源或执行特殊操作。 DELETE 请求服务器删除指定资源，如删除对象等。 HEAD 请求服务器资源头部。 PATCH 请求服务器更新资源的部分内容。 当资源不存在的时候，PATCH可能会去创建一个新的资源。
单击Notebook的打开按钮时报“请求超时”错误？ 当Notebook容器因内存溢出等原因导致崩溃时，若此时单击Notebook的打开按钮时，将会出现“请求超时”错误。 该种情况下，请耐心等待容器恢复，约几十秒，再重新单击打开按钮即可。 父主题： 实例故障
单击Notebook的打开按钮时报“请求超时”错误？ 当Notebook容器因内存溢出等原因导致崩溃时，如果此时单击Notebook的打开按钮时，将会出现“请求超时”错误。 该种情况下，请耐心等待容器恢复，约几十秒，再重新单击打开按钮即可。 父主题： Notebook实例常见错误
作为调用发起方的客户端无法访问已经获取到的推理请求地址 问题现象 完成在线服务部署且服务处于“运行中”状态后，已经通过调用指南页面的信息获取到调用的server端地址，但是调用发起方的客户端访问该地址不通，出现无法连接、域名无法解析的现象。 原因分析 在调用指南页签中显示的调用地址都
请求超时返回Timeout 问题现象 服务预测请求超时 原因分析 请求超时，大概率是APIG（API网关）拦截问题。需排查APIG（API网关）和模型。 处理方法 优先排查APIG（API网关）是否是通的，可以在本地使用curl命令排查，命令行：curl -kv {预测地址}。如
过调用指南页签的调用地址对模型发起预测请求，出于安全考虑，ModelArts会通过相关的认证鉴权机制避免在线服务被无关人员非法调用。所以在预测请求的header信息中包含的是调用者的身份信息，在body部分是需要进行预测的内容。 header的部分需要按照华为云的相关机制进行认证
服务预测请求体大小限制是多少？ 服务部署完成且服务处于运行中后，可以往该服务发送推理的请求，请求的内容根据模型的不同可以是文本，图片，语音，视频等内容。 当使用调用指南页签中显示的调用地址（华为云APIG网关服务的地址）预测时，对请求体的大小限制是12MB，超过12MB时，请求会被拦截。
已购买的套餐包为什么不能使用？ 已购买的套餐包不能使用包含以下几种情况： 购买套餐包的区域与使用区域不同。例如您在“华北-北京四”区域购买的套餐包，就只能在此区域使用。查看已购买套餐包区域可参见如何查看在哪个区域购买的套餐包？。 购买的套餐包不支持在此场景中使用。例如，您购买的套餐
enabled” 原因分析 出现该问题的可能原因如下： 新安装的包与镜像中带的CUDA版本不匹配。 处理方法 必现的问题，使用本地Pycharm远程连接Notebook调试安装。 先远程登录到所选的镜像，使用“nvcc -V”查看目前镜像自带的CUDA版本。 重装torch等，需要注意选择与上一步版本相匹配的版本。
如何查看在哪个区域购买的套餐包？ 登录ModelArts管理控制台，单击“总览”页的“我的套餐包”，进入“资源包”页面。 在“资源包”页面，您可以在“资源包列表”中查看已购买的套餐包。单击“资源包名称/ID”进入资源包详情。 在资源包详情页面，即可查看套餐包的购买区域。 图1 查看资源包区域 父主题：
Notebook中的EVS存储可以使用套餐包吗？ 无法使用套餐包。 父主题： 计费FAQ
Notebook中的EVS存储可以使用套餐包吗？ 无法使用套餐包。 父主题： 计费相关
性能benchmark包括两部分。 静态性能测试：评估在固定输入、固定输出和固定并发下，模型的吞吐与首token延迟。该方式实现简单，能比较清楚的看出模型的性能和输入输出长度、以及并发的关系。 动态性能测试：评估在请求并发在一定范围内波动，且输入输出长度也在一定范围内变化时，模型的延迟和吞吐。该场景
token的耗时 avg_decode_latency（平均增量token时延）：服务计算增量token的平均耗时 time_in_queue（请求排队时间）：请求从到达服务开始到开始被调度的耗时 request_latency（请求总时延）：请求从到达服务开始到结束的耗时 以上指标单位均是ms，保留2位小数。
性能benchmark包括两部分。 静态性能测试：评估在固定输入、固定输出和固定并发下，模型的吞吐与首token延迟。该方式实现简单，能比较清楚的看出模型的性能和输入输出长度、以及并发的关系。 动态性能测试：评估在请求并发在一定范围内波动，且输入输出长度也在一定范围内变化时，模型的延迟和吞吐。该场景
性能benchmark包括两部分。 静态性能测试：评估在固定输入、固定输出和固定并发下，模型的吞吐与首token延迟。该方式实现简单，能比较清楚的看出模型的性能和输入输出长度、以及并发的关系。 动态性能测试：评估在请求并发在一定范围内波动，且输入输出长度也在一定范围内变化时，模型的延迟和吞吐。该场景
制台为准。 已购买套餐包不支持退订，购买前请确认。 已购买套餐包是按需套餐包，其资源为公共资源。 套餐包不支持跨地域（跨region）使用。不同的地域之间资源包不互通，每个地域需分别购买，请根据您的实际需求慎重选择。 资源包抵扣顺序 计费时将优先使用套餐包的额度，超出额度部分将以
token的耗时 avg_decode_latency（平均增量token时延）：服务计算增量token的平均耗时 time_in_queue（请求排队时间）：请求从到达服务开始到开始被调度的耗时 request_latency（请求总时延）：请求从到达服务开始到结束的耗时 以上指标单位均是ms，保留2位小数。
性能benchmark包括两部分。 静态性能测试：评估在固定输入、固定输出和固定并发下，模型的吞吐与首token延迟。该方式实现简单，能比较清楚的看出模型的性能和输入输出长度、以及并发的关系。 动态性能测试：评估在请求并发在一定范围内波动，且输入输出长度也在一定范围内变化时，模型的延迟和吞吐。该场景
由于安装的文件名格式不支持，导致出现“xxx.whl is not a supported wheel on this platform”报错，具体解决方法请参见2。 处理方法 安装第三方包 pip中存在的包，使用如下代码： import os os.system('pip install
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
