检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
接口集成:通过接口集成配置,可以将第三方系统的数据集成到开发平台。 配置接口地址。 发布通知类型工具接口在“同步集成”页面配置,测试及其他类型工具无需配置接口集成,其余不同类型工具显示不同的配置接口。 配置的接口需要参考工具链同步信息接口规格说明实现。
http_user_agent|$status|$http_referer|$server_protocol|$body_bytes_sent|$request_length|$http_host|$request' '|$server_port|-|$http_x_api_method
体验Agent Agent体验是指以对话的形式,对自创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 体验我的Agent 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的Agent”。
在应用管理页面,选择“通用配置”,复制接口认证凭证。 接口认证凭证为OrgID侧生成的应用密钥,请开发者妥善保管。 图7 查看应用密钥 修改Demo工程的应用配置信息。
部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台资产中心的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。
路由策略创建完成后,可以进行模型调测,并支持在创建Agent时使用或通过接口调用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。
(可选)如果需要对特定接口uri进行特别的流控策略,则单击“新建子项”。 表7 特定接口uri流控参数说明 参数 说明 接口URL 流控的接口URL。 匹配条件 equal pettern 限流门限值 单个子项的限流门限值。
(可选)如果需要对特定接口uri进行特别的流控策略,则单击“新建子项”。 表7 特定接口uri流控参数说明 参数 说明 接口URL 流控的接口URL。 匹配条件 equal pettern 限流门限值 单个子项的限流门限值。
概述 系统架构 图1 SLB系统架构 系统架构说明: 调用部署服务接口获取业务微服务列表,以及发布的微服务版本信息,用于配置不同微服务版本的灰度策略。 运维在灰度发布管理台配置微服务灰度策略,支持配置同一个微服务不同版本的灰度规则,以及不同微服务相同的灰度规则。
对于新增的接口,因为没有历史数据,无法训练出该接口的模型,此时可以配置合适的值用来监控此类接口。 alert_by_std 波动性告警 True/False 默认为True 非请求量类指标参数,通过该参数设置是否引入波动性告警。
CPU过载阈值 CPU利用率超过该值时,接口的放通比例开始降低,直到降低至最低放通比例;CPU利用率越高,接口放通比例下降越快。该阈值要求为小数,范围为0~1,支持精度为小数点后四位。
CPU过载阈值 CPU利用率超过该值时,接口的放通比例开始降低,直到降低至最低放通比例;CPU利用率越高,接口放通比例下降越快。该阈值要求为小数,范围为0~1,支持精度为小数点后四位。
接口流控告警阈值 如果“接口级流控”次数达到阈值将产生告警。对应配置文件中的 config.ALARM_URL_THRESHOLD。 统计日志参数 - 配置完成后,单击“保存”。 父主题: 在SLB中创建和管理负载均衡实例
接口流控告警阈值 如果“接口级流控”次数达到阈值将产生告警。对应配置文件中的 config.ALARM_URL_THRESHOLD。 统计日志参数 - 配置完成后,单击“保存”。 父主题: 创建和管理负载均衡实例
操作本步骤前请确保以下两点: 已订购大模型微调服务API在线调用-SFT局部调优,订购方法请参见购买AI原生应用引擎按需计费资源。 已创建格式为“对话文本”的微调数据集。 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型微调流水线”。
灰度参数的设置 消费端需要在CSE的invocation设置想要进行灰度的参数,有两种方法: 确定需要进行灰度的参数 ,在后端的接口中使用@RequestParam参数来指定。
图10 查看微服务注册信息 调用接口:http://localhost:8082/order/1。 图11 调用接口 父主题: 开发指导
查看微服务详情 在微服务列表中,单击微服务名,可以查看微服务的版本列表、微服务实例列表、接口契约、依赖关系、SLB后端集群等信息。 父主题: 查看注册到CloudMap的微服务信息
查看微服务详情 在微服务列表中,单击微服务名,可以查看微服务的版本列表、微服务实例列表、接口契约、依赖关系、SLB后端集群等信息。 父主题: 查看注册到CloudMap的微服务信息
接口类型服务 使用方通过IaC注册地址。 通过Cloud Map SDK发现。 外部地址 使用方通过IaC注册地址。 通过Cloud Map SDK发现。 中间件 通过IaC申请中间件集群,中间件管理台自动注册。 通过中间件SDK访问。