检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
准备工作 开发技能要求 熟悉Java语言，能够编写Java语言代码。 掌握IaC开发技术，熟悉YAML语言。 了解Spring Cloud框架。 环境准备 已下载并安装Maven，根据以下步骤配置Maven。 在<localRepository>标签内添加自己的本地仓库位置路径，这个本地仓库位置是自己创建的。
更新环境时报错 问题描述 更新环境时出现“iacpatch query string format not valid”报错。 处理办法 IaC语法错误，字符串格式无效，原因是组件名不能带有“-”字符串，如图1所示。检查IaC工程是否携带“-”，修改为“_”即可。 图1 组件名称 父主题：
准备工作 开发技能要求 熟悉YAML语法。 下载Demo 下载Spring Cloud项目的Demo，参考本文档对Demo源码进行理解，您可以基于Demo进行二次开发，节省开发成本。 Demo下载链接：huaweicloud-appstage-demo-java-codeHub。
文本对话 功能介绍 调用大语言模型推理服务，根据用户问题，获取大语言模型的回答。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/chat/completions 请求参数 表1 请求Header参数 参数 是否必选 参数类型
AI原生应用引擎支持所有数据集进行数据标注吗？ 进行标注的数据集必须同时满足用途为“模型训练”、任务领域为“自然语言处理”、任务子领域为“文本生成”、数据集格式为“对话文本”四个条件。 父主题： AI原生应用引擎
在SLB中查看Lua配置 Lua是一种脚本语言，可以嵌入应用程序中，为应用程序提供灵活的扩展和定制功能，支持使用Lua脚本扩展Nginx的功能，Lua信息通过IaC配置，Lua定制的点在SLB管理台展示。 查看lua配置 进入AppStage运维中心。 在顶部导航栏选择服务。 单击，选择“微服务开发
现推理过程，推理策略则用于指导推理机的搜索和推理方向。 大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练，以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛，包括自然语言处理、机器翻译、语音识别、智能问答等领域。 向量化模型
大模型微调需要的数据有要求吗？ AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组，例如： [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
提示语优化是针对提示语进行结构、排版、内容等维度进行优化和改进，将大模型的输入限定在了一个特定的范围之中，进而更好地控制模型的输出。通过提供清晰和具体的指令，引导模型输出并生成高相关、高准确且高质量的文本对答内容，属于自然语言处理领域突破的重要技术，可以提升用户的使用体验和效率，减少用户的困惑和误解。 前提条件 已创建提示语。
SDK概述 AppStage为开发者提供运行时引擎SDK和AI原生应用引擎SDK，方便开发者将AppStage的能力快速集成到自己的应用中。 本文介绍了AppStage提供的开放API的SDK语言版本，列举了最新版本SDK的获取地址。 约束与注意事项 运行时引擎提供的SDK是基于Java1
配置实时日志空间信息，参数说明如表2所示，配置完成后，单击“下一步”。 表2 实时日志空间信息参数说明 参数名称 参数说明 空间名称 自定义日志空间名称，建议包含日志类型语义。 空间描述 输入日志空间描述，非必填项。 日志类型 选择需接入的日志类型，该日志空间中接入的日志数据“logType”字段会根据选择的日
配置实时日志空间信息，参数说明如表2所示，配置完成后，单击“下一步”。 表2 实时日志空间信息参数说明 参数名称 参数说明 空间名称 自定义日志空间名称，建议包含日志类型语义。 空间描述 输入日志空间描述，非必填项。 日志类型 选择需接入的日志类型，该日志空间中接入的日志数据“logType”字段会根据选择的日
配置实时日志空间信息，参数说明如表2所示，配置完成后，单击“下一步”。 表2 实时日志空间信息参数说明 参数名称 参数说明 空间名称 自定义日志空间名称，建议包含日志类型语义。 空间描述 输入日志空间描述，非必填项。 日志类型 选择需接入的日志类型，该日志空间中接入的日志数据“logType”字段会根据选择的日
现推理过程，推理策略则用于指导推理机的搜索和推理方向。 大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练，以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛，包括自然语言处理、机器翻译、语音识别、智能问答等领域。 向量化模型
开发代码是开发人员使用编程语言编写程序的过程，包括设计、编写、测试和维护程序的过程。在代码开发过程中，开发人员需要根据需求分析和设计文档，使用编程语言和开发工具编写程序代码，然后进行测试和调试，最终交付给用户使用。代码开发是产品开发的重要环节，决定了产品的质量和可靠性。 开发代码的详细指导请参见《开发指南》。
LLM LLM（Large Language Model，大语言模型）即大模型，仅包含“chat”一个执行动作。 运行动作 输入参数 用户配置运行动作执行动作，相关参数说明如表1所示。 表1 运行动作属性配置输入参数说明 参数 是否必填项 说明 模型服务调用ID 是 从“Agent编排中心
复制和迁移SLB配置信息 导出SLB实例的所有信息并在新增实例配置页面快速导入，可以实现配置信息的复制和迁移。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 导出所有信息 导出SLB实例的所有信息，包括SLB节点信息、nginx
查看服务总览和依赖关系图 概览页面展示了当前产品下所有的注册到Cloud Map的资源总览情况以及服务的依赖关系图。 查看服务总览 进入AppStage运维中心。 单击，选择“微服务开发 > 服务发现”。 选择左侧导航栏的“服务目录 > 概览”。 选择“服务总览”页签，查看当前产品下所有服务注册到Cloud
创建微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景，往往需要对大语言模型进行模型微调以适应特定任务。微调数据集是模型微调的基础，通过在微调数据集上进行训练从而获得改进后的新模型。 平台在资产中心预置了部分微调数据集，同时也支持用户根据需求自定义创建微调数据集。本文介绍如何创建微调数据集。
调整，以保证模型的性能评估和训练效果的准确性。 测试数据比例 测试数据比例是指模型训练结束之后，用于测试模型训练效果的数据在完整数据集中所占的比例。 通常，测试数据比例在20%到30%之间较为常见，但具体比例取决于数据集的大小和质量，以及模型的复杂度和训练时间等因素。较小的测试数
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
