检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
分离部署推理服务 本章节介绍如何使用vLLM 0.5.0框架部署并启动推理服务。 什么是分离部署 大模型推理是自回归的过程,有以下两阶段: Prefill阶段(全量推理) 将用户请求的prompt传入大模型,进行计算,中间结果写入KVCache并推出第1个token,属于计算密集型
分离部署推理服务 本章节介绍如何使用vLLM 0.6.0框架部署并启动推理服务。 什么是分离部署 大模型推理是自回归的过程,有以下两阶段: Prefill阶段(全量推理) 将用户请求的prompt传入大模型,进行计算,中间结果写入KVCache并推出第1个token,属于计算密集型
SSID 背景信息 SSID是终端用户无线接入网络时看到的网络名称,全称Service Set Identifier,以区分不同的无线网络。例如,当我们在笔记本电脑上搜索可接入无线网络时,显示出来的网络名称就是SSID。一个AP允许部署多个SSID,每个SSID可以指定一种认证方式
购买包年/包月实例 操作场景 本文将介绍在GaussDB(for MySQL)数据库服务的管理控制台创建“包年/包月”实例的过程。 计费说明 包年/包月计费模式的实例,购买成功后将按照订单的购买周期进行结算。计费详情请参见计费说明。 前提条件 注册华为账号并开通华为云 如果需要对华为云上的资源进行精细管理
购买按需计费模式的GaussDB(for MySQL)实例 操作场景 本文将介绍在GaussDB(for MySQL)数据库服务的管理控制台创建“按需计费”实例的过程。 计费说明 按需计费模式的实例,购买成功后将按照数据库实例的实际使用时长计费。计费详情请参见计费说明。 操作步骤
方案概述 应用场景 校园信息化从初期的局域网到信息化管理系统,再到现在动辄几十个业务应用系统的规模,都是伴随着需求的深入、技术的发展而陆陆续续建设起来的,它们的开发框架不一致、数据规范不统一、系统间协同度低,但每个业务系统并不是孤立的,需要与其它要素系统进行交互。 因此,教育信息化研究者在实践探索的基础上提出了统一平台的概念
敏感操作 只有管理员可以设置敏感操作,普通IAM用户只有查看权限,不能对其进行设置,如需修改,请联系管理员为您操作或添加权限。 联邦用户在执行敏感操作时,不需要进行身份验证。 虚拟MFA 虚拟Multi-Factor Authentication (MFA) 是能产生6位数字认证码的设备
WAF基础知识 本章节为您罗列了WAF入门级的常见问题。 Web应用防火墙是硬防火墙还是软防火墙? Web应用防火墙是软防火墙。当您购买WAF后,只需要将域名接入WAF,就可以使用WAF防护功能。 有关域名接入WAF的详细操作,请参见添加防护域名。 接入WAF对现有业务和服务器运行有影响吗
分离部署推理服务 本章节介绍如何使用vLLM 0.6.3框架部署并启动推理服务。 什么是分离部署 大模型推理是自回归的过程,有以下两阶段: Prefill阶段(全量推理) 将用户请求的prompt传入大模型,进行计算,中间结果写入KVCache并推出第1个token,属于计算密集型
功能总览 功能总览 全部 通用表格识别 通用文字识别 网络图片识别 智能分类识别 手写文字识别 身份证识别 行驶证识别 驾驶证识别 护照识别 银行卡识别 营业执照识别 道路运输证识别 车牌识别 名片识别 VIN码识别 增值税发票识别 发票验真 机动车销售发票识别 出租车发票识别 火车票识别
准备镜像环境 准备训练模型适用的容器镜像,包括获取镜像地址,了解镜像中包含的各类固件版本,配置物理机环境操作。 镜像地址 本教程中用到的训练和推理的基础镜像地址和配套版本关系如下表所示,请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 基础镜像 swr.cn-southwest
准备镜像环境 准备训练模型适用的容器镜像,包括获取镜像地址,了解镜像中包含的各类固件版本,配置物理机环境操作。 镜像地址 本教程中用到的训练和推理的基础镜像地址和配套版本关系如下表所示,请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 基础镜像 swr.cn-southwest
准备镜像环境 准备训练模型适用的容器镜像,包括获取镜像地址,了解镜像中包含的各类固件版本,配置物理机环境操作。 镜像地址 本教程中用到的训练和推理的基础镜像地址和配套版本关系如下表所示,请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 基础镜像 swr.cn-southwest
使用DLI分析电商实时业务数据 应用场景 当前线上购物无疑是最火热的购物方式,而电商平台则又可以以多种方式接入,例如通过web方式访问、通过app的方式访问、通过微信小程序的方式访问等等。而电商平台则需要每天统计各平台的实时访问数据量、订单数、访问人数等等指标,从而能在显示大屏上实时展示相关数据
功能总览 功能总览 全部 分支管理 标签管理 提交网络 版本管理 新建&导入仓库 日常开发 关联工作项 分支合并评审 开发管理设置 安全策略 高级功能 客户端 分支管理 分支是版本管理工具中最常用的一种管理手段,使用分支可以把项目开发中的几项工作彼此隔离开来使其互不影响,当需要发布版本之前再通过分支合并将其进行整合
华为云合作推广协议 华为云合作推广协议(以下简称“本协议”)是华为云(甲方)与贵方(乙方)合作开展推广、获得奖励的基础协议。 加入及退出 满足以下全部条件的华为云官网会员(不包括渠道、渠道子账号、NA账号或华为云认为该会员不符合合作推广的其他情形),可通过本协议,线上同意协议的方式加入华为云合作推广
RDS for MySQL实例规格 RDS for MySQL实例支持的数据库版本请参见数据库引擎和版本。 RDS for MySQL云盘存储的实例规格CPU架构分为X86架构和ARM架构,详见表1。支持的规格列表请参见表5、表6、表8。 X86架构:通用型(推荐)、独享型(推荐)
功能总览 功能总览 全部 数据仓库服务 购买数据仓库服务 周边工具 连接集群数据库 数据库参数管理 快照 扩容与升级 缩容集群 导入数据 导出数据 解除只读 开发设计建议 SQL语法 Java UDF TopSQL查询 SQL调优 资源管理 细粒度权限策略 数据库权限 行级访问控制
8.1.3版本新增功能 8.1.3.x版本新增功能参见新增功能,各补丁解决问题列表参见8.1.3.x补丁新增功能及解决问题。 【V8.1.3.336版本发布时间】:2024年10月15日 【V8.1.3.333版本发布时间】:2024年06月30日 【V8.1.3.330版本发布时间
约束与限制 使用MRS前,您需要认真阅读并了解以下使用限制。 MRS集群创建限制 表1 MRS集群创建约束说明 限制项 说明 网络要求 MRS集群必须创建在VPC子网内。 创建MRS集群时,支持自动创建安全组,也可选择已有的安全组。 MRS集群使用的安全组请勿随意放开权限,避免被恶意访问