检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
描述 必填项。 自定义卡片的描述信息。 封面图 卡片的封面图。 自动截图:单击“截屏”,自动获取画布中的图片。 上传封面:单击“添加图片”,在弹出界面,单击,选择本地准备好的图片,裁剪出符合要求的尺寸后,单击。 在界面右上方单击“保存”,系统自动弹出“保存”页面,确认卡片信息,单击“保存”。
在“基础信息”页面,配置如表1所示参数。 表1 添加工具参数说明 参数名称 参数说明 工具LOGO 单击系统默认图片上的“点击修改”,可选择系统预置图片作为工具LOGO,也可单击“上传LOGO”,上传本地图片作为工具LOGO,上传图片支持支持JPG、JPEG、PNG和BMP,最大10MB。 工具名称 自定义工具名
卡片的描述信息。由1~400个字符组成,包含中文、字母、数字及下划线。 卡片封面 可选项。 单击左侧方框中的,上传本地准备好的封面图。推荐图片比例为4:3。 配置完成后,单击“确定”。 在“提示”对话框中单击“确认”:可以在此页面继续新建卡片。 在“提示”对话框中单击“取消”:系统自动返回“配置看板
对话输入框输入问题,按Enter键或单击预览Agent效果。 单击对话输入框中的,上传.wav、.mp4、.mp3格式文件或图片,可以对上传的音频文件或图片提问。 如果Agent开启了“支持语音输入”开关,您也可以单击对话输入框中的,通过语音输入问题。 如果Agent使用配置变量
embeddings List[float] 向量,一个浮点数列表。 object str 当前为embedding。 Images 将用户输入的文本转化成图片。 接口调用:ModelRouter.images.generate 参数说明: 表8 参数说明 参数名称 参数类型 是否必选 参数描述 prompt
更倾向于生成较少见的单词。 内容安全监测配置 当“输出方式”为“非流式”时,显示此参数。 选择是否打开开关,开启后,可对返回内容中的文本和图片进行安全监测。 在右侧“模型效果预览”区域查看效果。 更多操作 模型路由策略创建完成后,可执行如表3所示的操作。 表3 更多操作 操作 说明
M3-6B大模型服务API在线调用、大模型微调服务API在线调用-SFT局部调优,按需计费模式能大幅降低客户的业务成本。 适用计费项 AI原生应用引擎的以下计费项支持按需计费。 表1 适用计费项 计费项 说明 ChatGLM3-6B大模型服务API在线调用 根据实际输入和输出tokens总量计费,平台提供算力支持。
is_response_verify 否 Boolean 参数解释: 是否开启返回体内容审核(默认不开启)。 有文本内容,则对文本进行内容审核; 有图片内容,则会对图片进行内容审核。 约束限制: 不涉及。 取值范围: true或false 默认取值: false。 响应参数 状态码: 200 表7
微调任务执行完成后,单击“操作”列的“发布”,发布模型。 步骤三:部署模型 部署模型是将模型部署为在线服务,通过创建部署服务实现,创建成功后,可以对在线服务可以进行预测和调用。本文需要为基座模型(原模型)和微调后的新模型分别创建模型服务。由于在线运行需消耗资源,请确保账户未欠费。 在AI原生应用引擎的左侧导航栏选择“模型中心
对处于保留期的按需计费资源执行任何操作。 保留期到期后,如果您仍未支付账户欠款,那么ChatGLM3-6B大模型服务API在线调用、大模型微调服务API在线调用-SFT局部调优将无法再使用。 图1 按需计费AI原生应用引擎资源生命周期 华为云根据客户等级定义了不同客户的宽限期和保留期时长。
容会作为元数据一部分返回。 取值范围: 不涉及。 download_addresses Map<String,String> 参数解释: 图片或视频临时下载地址(map类型,key为文件路径,value为下载地址)。 取值范围: 不涉及。 download_address String
M3-6B服务、大模型调优服务API在线调用。 套餐包单价+按需计费(ChatGLM3-6B服务、大模型调优服务API在线调用) 知识库容量:50GB 智能应用运行时引擎(20实例):2个 ChatGLM3-6B服务、大模型调优服务API在线调用根据实际输入和输出tokens总量计费,计费规则请参考按需计费
更倾向于生成较少见的单词。 内容安全监测配置 当“输出方式”为“非流式”时,显示此参数。 选择是否打开开关,开启后,可对返回内容中的文本和图片进行安全监测。 调测文本向量化类型模型 请输入文本,可参照以下示例输入文本。 示例1:那是个快乐的人 示例2: ["那是个快乐的人", "那是个高兴的人"
参数解释: 数据集类型。 约束限制: 不涉及。 取值范围: 枚举值:TEXT(文档)、IMAGE_TO_TEXT(图片摘要)、VIDEO_TO_TEXT(视频摘要)、IMAGE(图片)。 默认取值: 不涉及。 preprocess_config 否 PreprocessConfig object
在“上传文档”对话框,选择“交付方式”为“在线文档”,单击“创建文档”,进入文档编辑页面进行内容写作,文档内容将实时自动保存,创建在线文档成功。 如需更换文档交付方式,先删除此在线文档。删除文档后其全部内容将被清空,且内容将无法恢复,请谨慎操作。 (可选)如需更新在线文档,具体操作如下: 返回“
设规则自动化执行流程,从而提高工作效率和准确性。 ClickHouse ClickHouse是一个开源的分布式列式数据库管理系统,主要用于在线分析处理(OLAP)场景。它具有高性能、高可靠性、高可扩展性等特点,可以处理海量数据,支持复杂的查询和数据分析操作。ClickHouse支
生费用,请在自动续费扣款日(默认为到期前7日)之前关闭自动续费。 按需计费资源 对于按需计费模式的资源,例如按需计费的大模型微调服务API在线调用-SFT局部调优,如果不再使用这些资源且需停止计费,请删除相应资源。 退订包年包月资源以停止计费 登录AppStage控制台,默认进入AppStage控制台“总览”页。
义屏幕构建。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。 已创建我的卡片,具体请参见使用在线构建方式新建卡片、使用模板构建方式新建卡片、使用离线构建方式新建卡片。 新建屏幕模板 登录AppStage业务控制台。 在快捷入口选择“运营中心”,进入运营中心。
平台提供了对应的模型服务API,但是该模型能力有限,只能作为问答模型,不能作为思考模型,首次使用该模型服务API需要订购免费的“ChatGLM3-6B大模型服务API在线调用”资源,订购后即可进行调测/体验、调用,订购操作请参见购买AppStage。 开源模型bge-reranker-large、bge-large-zh-v1
选择左侧导航栏的“服务目录 > 一方服务”。 在一方服务页面,选择“微服务实例列表”页签。 单击微服务实例列表操作列的“上线”,将实例调整为上线状态。 下线实例 将在线的微服务调整为下线状态。下线实例将会让微服务实例不再接收流量,请确认后操作。 在微服务实例列表中,单击微服务实例列表操作列的“下线”。 在