检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
用于设置当前分段开头与上一个分段结尾重叠部分的长度。 索引配置 向量化模型 选择向量化模型,向量化模型可以将文本数据转换为数值向量,常用于将文本转换为机器可以处理的形式,以便进行各种任务,如文本分类、情感分析、机器翻译等。 当前模型仅支持向量化512 token的内容,对应的中文约为512个
在SLB中配置黑白名单 黑名单对于请求进行一定筛选条件下的拒绝。 白名单相当于VIP,白名单上匹配的请求,将跳过黑名单以及流控规则限制。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 配置黑白名单 进入AppStage运维中心。
的治理。 治理策略说明 支持负载均衡、限流、故障隔离、容错、降级、熔断、错误注入、超时时间和OLC流控等策略的配置。各治理项说明如表1所示。 表1 治理策略说明 名称 说明 负载均衡 微服务一般会部署多个实例,负载均衡控制微服务消费者访问微服务提供者的多个实例的策略,以达到流量均
的治理。 治理策略说明 支持负载均衡、限流、故障隔离、容错、降级、熔断、错误注入、超时时间和OLC流控等策略的配置。各治理项说明如表1所示。 表1 治理策略说明 名称 说明 负载均衡 微服务一般会部署多个实例,负载均衡控制微服务消费者访问微服务提供者的多个实例的策略,以达到流量均
SLB监听依赖SLB实例,1个SLB实例可以对应多个SLB监听。 转发策略依赖SLB监听,比例关系为1:1。 灰度服务依赖转发策略,一个转发策略实例可以对应多个灰度服务,1个灰度服务只能对应一个转发策略实例。 父主题: SLB
AppStage运营中心概览页介绍 运营中心概览页面分为概览、操作指引两个区域,如图1所示。 图1 概览 概览 概览区域展示指标总数、看板总数、数据接入总数、数据模型总数和卡片总数。并提供操作指引的入口链接。↵ 操作指引 操作指引区域展示指标开发者、运营管理员不同角色拥有的操作权限,并提供操作入口。
单击输入框右侧的“引用模板”选择我创建的、我收藏的或平台预置的提示语模板。 推理模型 将提示语应用于我创建的、平台预置的或第三方模型服务中,预览推理结果。 选择推理模型后,可配置推理模型的相关参数,如表3所示。 表3 推理模型参数配置说明 参数名称 参数说明 最大token数 影响推理返回内容的最大长度,取值范围:1-10000。
AI原生应用引擎支持所有数据集进行数据标注吗? 进行标注的数据集必须同时满足用途为“模型训练”、任务领域为“自然语言处理”、任务子领域为“文本生成”、数据集格式为“对话文本”四个条件。 父主题: AI原生应用引擎
动态阈值会通过训练历史数据,实现对数据特征的学习,构建数据的模型。并利用模型来预测数据的趋势走向。如图2黄色部分,实际值和预测值相差过大,认为异常。 图2 动态阈值 异常检测的能力是基于指标仓库,MPPDB数据库及异常检测服务所构建的。指标仓库定义了数据的来源和数据的计算方式。MPPDB数据库用来检测过程
复杂性和深度。大模型会基于提示语所提供的信息,生成对应的文本或者图片。 测试提示语 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“提示语模板”页签。 将鼠标光标移至提示语模板卡片上,单击“测试”,进入模型调测页面。 在调测文本对话类型模型时,将提示语模板
null或trainModel is {},并且提示fail to load model json,表示训练完成后judge未成功加载训练模型。 解决方法 依次单击“初始化Daemon”、“注册任务”和“启动任务”,重启judge,观察执行结果。 父主题: 异常检测Judge定时任务失败
客户打通自己的业务能力API,将大模型的能力结合进入自己的业务链路。 提供支撑AI原生应用运行的整套模型工具链,包括数据管理、模型接入、模型调优、知识工程等能力,帮助客户选好、管好、用好大模型,从而提升大模型应用效果。 统一主数据平台和概念模型,管理应用生命周期中组织、产品、服务
微服务版本的灰度策略。 运维在灰度发布管理台配置微服务灰度策略,支持配置同一个微服务不同版本的灰度规则,以及不同微服务相同的灰度规则。 微服务的灰度策略同步到灰度配置中心。 微服务集成灰度SDK,订阅微服务的灰度配置,保存到缓存和本地文件。 灰度SDK执行灰度策略 ,根据微服务传
成,AI原生应用引擎通过将传统工具API和大模型编排在一起实现复杂的工作流。工作流可在用户创建Agent时调用,Agent使用过程中,当起始节点触发,后续动作即可自动执行,完成一系列复杂的任务。 创建Agent(LLM模式)时,由大模型根据用户问题与工作流的关联性决策是否调用工作流。
页面浏览量(PV)计算模板 模板介绍 页面浏览量(PV)计算模板是用来统计指定的时间段内,某个网站或应用的页面被访问过的数量。 图1 页面浏览量(PV)计算模板 指标体系 表1 指标体系 指标名称 指标描述 页面浏览量日活 指在一天内访问某个网站或应用的页面浏览次数,每个用户每次访问都会被计算在内。
500 UniModel.Internal.0001 模型访问失败 无法访问选择的模型 检查模型是否已经正常部署 500 UniModel.Internal.0002 模型返回超时 模型服务返回超时 检查网络情况,或者减少模型返回内容 500 WS.00100001 AUTHENTICATION_ERROR
独立访客数(UV)计算模板 模板介绍 独立访客数(UV)计算模板是用来统计指定时间内,访问某个应用或页面的不同用户数量。每个用户只计算一次,无论他在这段时间内访问了多少次。 图1 独立访客数(UV)计算模板 指标体系 表1 指标体系 指标名称 指标描述 独立访客数月活 指在一个月
如何保证Agent每次问答都调用知识库? 创建Agent时,支持配置支持库调用方式,当调用方式选择为“自动调用”时每次问答都会调用知识库,选择“按需调用”时由大模型决定是否调用知识库,如图1所示。具体介绍请参见创建并发布Agent。 图1 调用方式 父主题: AI原生应用引擎
店铺销售分析模板 模板介绍 统计周期内,通过分析GMV、销售额、利润等,了解店铺的销售情况。 图1 店铺销售分析计算模板 指标体系 表1 指标体系 指标名称 指标描述 GMV日活 统计周期内,拍下的订单金额或支付订单的金额总和(Gross Merchandise Volume),包含付款和未付款的部分。
500 UniModel.Internal.0001 模型访问失败 无法访问选择的模型 检查模型是否已经正常部署 500 UniModel.Internal.0002 模型返回超时 模型服务返回超时 检查网络情况,或者减少模型返回内容 500 WS.00100001 AUTHENTICATION_ERROR