检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
更新环境时报错 问题描述 更新环境时出现“iacpatch query string format not valid”报错。 处理办法 IaC语法错误,字符串格式无效,原因是组件名不能带有“-”字符串,如图1所示。检查IaC工程是否携带“-”,修改为“_”即可。 图1 组件名称 父主题:
调用文本对话模型服务 功能介绍 调用大语言模型推理服务,根据用户问题,获取大语言模型的回答。 调用方法 请参见如何调用API。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/chat/completions 请求参数 表1
LLM(Large Language Model,大语言模型)即大模型,是工作流的基础节点之一,仅包含“chat”一个执行动作。 在工作流中添加LLM节点,可以使用大语言模型推理服务实现智能问答,在输入参数中引入前置节点的输出或自定义文本作为输入问题,大语言模型根据问题生成回答。 chat配置说明
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
提示语优化是针对提示语进行结构、排版、内容等维度进行优化和改进,将大模型的输入限定在了一个特定的范围之中,进而更好地控制模型的输出。通过提供清晰和具体的指令,引导模型输出并生成高相关、高准确且高质量的文本对答内容,属于自然语言处理领域突破的重要技术,可以提升用户的使用体验和效率,减少用户的困惑和误解。 前提条件 已创建提示语。
现推理过程,推理策略则用于指导推理机的搜索和推理方向。 大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练,以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛,包括自然语言处理、机器翻译、语音识别、智能问答等领域。 向量化模型
监控资源和应用 初始化监控服务运维资源 认识监控服务概览页 接入并查看日志 采集Linux主机监控指标 采集Windows主机监控指标 接入其他公有云数据 开发并管理数据 管理指标仓库 实时监控业务指标 使用业务报表进行业务监控 配置并管理告警 配置异常检测任务 使用EAP进行流程管理
此参数;RAG类型为“GraphRAG”时,默认为“语义检索”方式。 检索方式 当数据类型为“图片”时,不支持选择混合检索和全文检索。 混合检索:同时使用语义检索与全文检索,并对结果进行综合排序。 语义检索:使用向量进行文本语义查询,即调用向量数据库根据向量的相似性检索。 全文检
取值范围: 可以为空,为空则使用默认值。枚举值:VECTOR_RAG(向量RAG,是一种结合了向量化和大语言模型的RAG技术)、GRAPH_RAG(知识图谱RAG,是一种结合了知识图谱和大语言模型的RAG技术)。 默认取值: VECTOR_RAG。 retrieval_config 否
Embeddings object ModelRouter.images Image object 接口调用 chat 调用大语言模型推理服务,根据用户问题,获取大语言模型的回答。 接口调用:ModelRouter.chat.completion.create 参数说明 表3 参数说明 参数名
AI原生应用引擎支持所有数据集进行数据标注吗? 进行标注的数据集必须同时满足用途为“模型训练”、任务领域为“自然语言处理”、任务子领域为“文本生成”、数据集格式为“对话文本”四个条件。 父主题: AI原生应用引擎
SDK概述 AppStage为开发者提供运维中心SDK和AI原生应用引擎SDK,方便开发者将AppStage的能力快速集成到自己的应用中。 本文介绍了AppStage提供的开放API的SDK语言版本,列举了最新版本SDK的获取地址。 约束与注意事项 运维中心提供的SDK是基于Java1
准备工作 开发技能要求 熟悉Java语言,能够编写Java语言代码。 掌握IaC开发技术,熟悉YAML语言。 了解Spring Cloud框架。 环境准备 已下载并安装Maven,根据以下步骤配置Maven。 在<localRepository>标签内添加自己的本地仓库位置路径,这个本地仓库位置是自己创建的。
包括设计、编写、测试和维护程序的过程。在代码开发过程中,开发人员需要根据需求分析和设计文档,使用编程语言和开发工具编写程序代码,然后进行测试和调试,最终交付给用户使用。代码开发是产品开发的重要环节,决定了产品的质量和可靠性。 开发代码的详细指导请参见《开发指南》。 提交代码到代码仓
在SLB中查看Lua配置 Lua是一种脚本语言,可以嵌入应用程序中,为应用程序提供灵活的扩展和定制功能,支持使用Lua脚本扩展Nginx的功能,Lua信息通过IaC配置,Lua定制的点在SLB管理台展示。 查看lua配置 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发
准备工作 开发技能要求 熟悉YAML语法。 下载Demo 下载Spring Cloud项目的Demo,参考本文档对Demo源码进行理解,您可以基于Demo进行二次开发,节省开发成本。 Demo下载链接:huaweicloud-appstage-demo-java-codeHub。
在SLB中查看Lua配置 Lua是一种脚本语言,可以嵌入应用程序中,为应用程序提供灵活的扩展和定制功能,支持使用Lua脚本扩展Nginx的功能,Lua信息通过IaC配置,Lua定制的点在SLB管理台展示。 查看lua配置 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发
配置实时日志空间信息,参数说明如表2所示,配置完成后,单击“下一步”。 表2 实时日志空间信息参数说明 参数名称 参数说明 空间名称 自定义日志空间名称,建议包含日志类型语义。 空间描述 输入日志空间描述,非必填项。 日志类型 选择需接入的日志类型,该日志空间中接入的日志数据“logType”字段会根据选择的日
配置实时日志空间信息,参数说明如表2所示,配置完成后,单击“下一步”。 表2 实时日志空间信息参数说明 参数名称 参数说明 空间名称 自定义日志空间名称,建议包含日志类型语义。 空间描述 输入日志空间描述,非必填项。 日志类型 选择需接入的日志类型,该日志空间中接入的日志数据“logType”字段会根据选择的日
配置实时日志空间信息,参数说明如表2所示,配置完成后,单击“下一步”。 表2 实时日志空间信息参数说明 参数名称 参数说明 空间名称 自定义日志空间名称,建议包含日志类型语义。 空间描述 输入日志空间描述,非必填项。 日志类型 选择需接入的日志类型,该日志空间中接入的日志数据“logType”字段会根据选择的日