检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
'{"prompt": "hello", "temperature":0, "max_tokens":20}' vLLM接口请求参数说明参考:https://docs.vllm.ai/en/stable/dev/sampling_params.html 方式二:使用OpenAI接口请求服务,命令参考如下。
cd Yolov8/yolov8_infer/mindspore_lite 获取yolov8 detection pt模型文件。下载地址:https://github.com/autogyro/yolo-V8 图1 下载yolov8 detection pt模型文件 pt模型转onnx模型。以转换yolov8n
deploy:部署 delete:删除 node_id String 边缘节点ID。在IEF上创建边缘节点后可得到。 请求示例 GET https://{endpoint}/v1/{project_id}/services/{service_id}/logs 响应示例 状态码: 200
描述 error_code String ModelArts错误码。 error_msg String 具体错误信息。 请求示例 GET https://{endpoint}/v1/{project_id}/app-auth/apps 响应示例 状态码: 200 OK { "apps"
描述 error_code String ModelArts错误码。 error_msg String 具体错误信息。 请求示例 GET https://endpoint/v2/{project_id}/training-jobs/{training_job_id}/events?o
接口启动2种方式。详细启动服务与请求方式参考:https://docs.vllm.ai/en/latest/getting_started/quickstart.html。 以下服务启动介绍的是在线推理方式,离线推理请参见https://docs.vllm.ai/en/lates
Abnormal:SFS连通状态异常 ipAddr String SFS Turbo的访问地址。 请求示例 查询资源池列表。 GET https://{endpoint}/v2/{project_id}/pools { } 响应示例 状态码: 200 OK。 { "kind"
描述 error_code String ModelArts错误码。 error_msg String 具体错误信息。 请求示例 GET https://{endpoint}/v1/{project_id}/services/{service_id}/app-auth-apis/{api_id}/api-auths
error_code String ModelArts错误码。 error_msg String 具体错误信息。 请求示例 删除网络。 DELETE https://{endpoint}/v1/{project_id}/networks/{network_name} { } 响应示例 状态码:
定期针对镜像进行安全扫描,及时安装补丁修复漏洞。增加健康检查接口,确保健康检查可以正常返回业务状态,便于告警和故障恢复。容器应该采用https的安全传输通道,并使用业界推荐的加密套件保证业务数据的安全性。 部署上线 部署服务时,需要注意为服务设置合适计算节点规格,防止服务因资源
创建工作空间。设置工作空间名称为“test-workspace”,授权类型为“internal”,授权的IAM用户名称为“test”。 POST https://{endpoint}/v1/{project_id}/workspaces { "name" : "test-workspace"
3]和[100,200]均合法。 说明:只有当样本的标签列表包含物体检测标签时,此字段必选。 请求示例 分页查询团队标注任务下的样本列表 GET https://{endpoint}/v2/{project_id}/datasets/{dataset_id}/workforce-tasks/
接口启动2种方式。详细启动服务与请求方式参考:https://docs.vllm.ai/en/latest/getting_started/quickstart.html。 以下服务启动介绍的是在线推理方式,离线推理请参见https://docs.vllm.ai/en/lates
200,3]和[100,200]均合法。 说明:只有当样本的标签列表包含物体检测标签时,此字段必选。 请求示例 分页查询样本列表 GET https://{endpoint}/v2/{project_id}/datasets/{dataset_id}/data-annotations/samples
error_code String ModelArts错误码。 error_msg String 具体错误信息。 请求示例 删除节点池。 DELETE https://{endpoint}/v2/{project_id}/pools/{pool_name}/nodepools/{nodepool_name}
卡类型。 unit String 单位。 memory Integer 卡内存大小。 npu Integer NPU数。 请求示例 GET https://{endpoint}/v1/{project_id}/services/specifications 响应示例 状态码: 200 服务部署规格列表。
接口启动2种方式。详细启动服务与请求方式参考:https://docs.vllm.ai/en/latest/getting_started/quickstart.html。 以下服务启动介绍的是在线推理方式,离线推理请参见https://docs.vllm.ai/en/lates
该镜像所对应的描述信息,长度限制512个字符。 dev_services Array of strings 镜像支持的服务。枚举值如下: NOTEBOOK:镜像支持通过https协议访问Notebook。 SSH:镜像支持本地IDE通过SSH协议远程连接Notebook。 id String 待创建Noteboo
Long 传输完成文件大小(字节)。 file_size_total Long 总文件大小(字节)。 请求示例 查询导入任务详情 GET https://{endpoint}/v2/{project_id}/datasets/{dataset_id}/import-tasks/{task_id}
unreviewed_sample_count Integer labeler标注完未被reviewer审核的样本数目。 请求示例 团队成员查询团队标注任务列表 GET https://{endpoint}/v2/{project_id}/workforces/worker-tasks?offset=0&limit