检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
SaaS:ChatGLM3-6B大模型服务API在线调用 自定义模型训练 API SaaS:大模型微调服务API在线调用-SFT局部调优 说明: 按需仅适用于AppStage的AI原生应用引擎。
不同日志类型所对应的“logType”字段如下: 访问日志:ACCESS_LOG 接口日志:INTERFACE_LOG 错误日志:ERROR_LOG 异常日志:EXCEPTION_LOG 安全日志:SAFE_LOG 资源日志:RESOURCE_LOG 运行日志:RUN_LOG 话单日志
三方厂商的工具API,请到工具对应官网获取鉴权信息。 自创建工具请填写工具创建时所配置的鉴权信息。
interface_local_multicast:匹配 IPv6 接口本地多播地址。 link_local_unicast:匹配链路本地单播地址。 link_local_multicast:匹配链路本地多播地址。
支持知识库容量,智能应用运行时引擎,开通ChatGLM3-6B服务、大模型调优服务API在线调用。
三方API请到对应官网获取,个人API请留联系方式,方便用户联系获取。 执行动作 显示工具的执行动作及动作描述信息。 单击“确定”。 上架申请提交后,等待平台运营者审批,审批通过后,在AI原生应用引擎“资产中心”的“工具”页签下可以查看到该工具。
开启API配置。 在云堡垒机系统“系统 > 系统配置 > 安全配置”页面,API配置模块开启对外开放API开关,如图1所示,具体操作请参见开启API配置。 图1 API配置 创建appstage-role角色。
表1 起始节点配置参数说明 参数 说明 API请求方式 在下拉列表中可选择以下API请求方式: get:get请求,用于从服务器获取数据,通常使用URL参数传递数据。 post:post请求,用于向服务器提交数据,通常将数据放在请求体中。
准备工作 本实践中需要调用LLM节点,首次调用LLM节点需要新增实例,请参考新增平台API Key获取AI原生应用引擎平台API Key。 本实践选用资产中心预置的第三方模型glm-4作为旅游规划模型,请参考如何对模型供应商提供的模型服务设置鉴权设置模型鉴权。
在“协议”下拉框中选择“HTTPS”,在“订阅终端”输入框中输入“https://alertapi.inner.huaweiapaas.com/api/cloud/db/alerts/”,单击“确定”。 创建告警行动规则。 创建告警规则并选择相应的行动规则。
保留期到期后,如果您仍未支付账户欠款,那么ChatGLM3-6B大模型服务API在线调用、大模型微调服务API在线调用-SFT局部调优将无法再使用。 图1 按需计费AI原生应用引擎资源生命周期 华为云根据客户等级定义了不同客户的宽限期和保留期时长。
按需计费 千tokens * 每千tokens单价 大模型微调服务API在线调用-SFT局部调优 根据实际输入和输出tokens总量计费,平台提供算力支持。
在“协议”下拉框中选择“HTTPS”,在“订阅终端”输入框中输入“https://alertapi.inner.huaweiapaas.com/api/cloud/db/alerts/”,单击“确定”。
CCE/EVS/ECS/ELB/IAM/IMS/NAT/EIP/OBS/SFS/SMN/SWR/DCS/VPC/VPCEP/WAF/HSS/Anti-DDoS/DWS/CES/DRS/DEW/DDS/APIG/MRS/CSS/DMS/TaurusDB/GeminiDB Cassandra
按需计费资源 对于按需计费模式的资源,例如按需计费的大模型微调服务API在线调用-SFT局部调优,如果不再使用这些资源且需停止计费,请删除相应资源。 退订包年包月资源以停止计费 登录AppStage控制台,默认进入AppStage控制台“总览”页。
表1 AI原生应用引擎功能介绍 主要功能 功能简介 Agent管理 支持一站式创建专属AI原生应用,对于创建的Agent进行体验调测,并通过API或Web方式发布后即可对外提供服务。 同时,您可以体验平台预置的Agent,享受AI带来的便利和乐趣。
oapdruid、oapclickhouse、oapmppdb、oapinfluxdb、oaptsdb:选择这类数据源后,可以使用druid、clickhouse等数据源基于SQL配置图表。
前提条件 已订购大模型微调服务API在线调用-SFT局部调优,订购方法请参见购买AI原生应用引擎按需计费资源。 已具备格式为“对话文本”的微调数据集,具体请参考创建微调数据集或收藏预置微调数据集。
支持客户打通自己的业务能力API,将大模型的能力结合进入自己的业务链路。 提供支撑AI原生应用运行的整套模型工具链,包括数据管理、模型接入、模型调优、知识工程等能力,帮助客户选好、管好、用好大模型,从而提升大模型应用效果。
No auth:Restful API不对SVE进行鉴权。 BasicAuth:Restful API会对SVE进行BasicAuth认证,此时,还需要填写鉴权用户名和密码。 Token:Token方式,会自动获取当前登录运营中心的用户对应的Token。